Против OpenAI поданы семь исков, в которых утверждается, что ChatGPT довел людей до самоубийств и бредовых состояний, даже если ранее у них не было проблем с психическим здоровьем. Об этом пишет WSJ.
Иски поданы в судах штата Калифорния и содержат обвинения в содействии самоубийству, непредумышленном убийстве и небрежности.
Поданные от имени шести взрослых и одного подростка Юридическим центром жертв социальных сетей (Social Media Victims Law Centre) и проектом Tech Justice Law Project, иски утверждают, что OpenAI сознательно преждевременно выпустила GPT-4o.
По их словам, релиз состоялся несмотря на внутренние предупреждения о том, что система опасно угодлива и психологически манипулятивна. Четыре из пострадавших покончили с собой.
Согласно иску, поданному в Верховный суд округа Сан-Франциско, 17-летний подросток по имени Амаури Лейси начал пользоваться ChatGPT в поисках помощи.
Однако вместо помощи «дефектный и по своей природе опасный продукт ChatGPT вызвал зависимость, депрессию и, в конечном счете, давал ему советы о наиболее эффективном способе завязать петлю и о том, как долго он сможет жить без дыхания».
В иске говорится: «Смерть Амаури была не несчастным случаем и не совпадением, а предсказуемым следствием сознательного решения OpenAI и Сэмюэла Альтмана сократить тестирование безопасности и поспешно вывести ChatGPT на рынок».
«Эти иски — вопрос ответственности за продукт, спроектированный так, чтобы размыть границу между инструментом и компаньоном во имя роста вовлеченности пользователей и доли рынка», — сказал Мэттью П. Бергман, основатель Юридического центра жертв социальных сетей.
По его словам, OpenAI «разработала GPT-4o так, чтобы эмоционально вовлекать пользователей вне зависимости от возраста, пола или происхождения, и выпустила его без необходимых мер защиты».
«Иски против OpenAI показывают, что происходит, когда технологические компании спешат с выпуском продуктов без должных мер защиты для молодых людей», — сказал Дэниел Вайс, директор по адвокации организации Common Sense Media.
«Эти трагические случаи — это реальные люди, чьи жизни были сломлены или утеряны, когда они пользовались технологией, созданной для удержания их внимания, а не для обеспечения их безопасности».
