Пенсильвания подала иск против Character.AI из-за обвинений в незаконной медицинской практике чат-бота, имитировавшего психиатра

Регулятор штата утверждает, что ИИ-бот компании фактически вёл себя как лицензированный врач и мог давать медицинские рекомендации, что рассматривается как нарушение закона о медицинской практике без лицензии

Штат Пенсильвания (через Совет по медицинской практике при Департаменте штата) 1 мая подал иск против компании Character Technologies, оператора платформы Character.AI, заявив о возможном незаконном осуществлении медицинской практики. По версии регулятора, «один из чат-ботов сервиса действовал таким образом, что мог вводить пользователей в заблуждение относительно своей роли как врача».

В рамках расследования государственный инспектор создал аккаунт и взаимодействовал с ботом по имени Emilie, который позиционировал себя как «врач-психиатр». В ходе диалога бот якобы сообщил пользователю, что тот является его пациентом, и далее перешёл к обсуждению симптомов, включая подавленное настроение, усталость и снижение мотивации.

По данным заявления, бот не ограничился общими рекомендациями: …