К Google подали иск из-за того, что ее нейросеть довела пользователя до самоубийства. 36-летний житель Флориды активно общался с чат-ботом Gemini. Со временем он стал воспринимать его как свою возлюбленную — вел романтические беседы и разыгрывал сценарии, в которых нейросеть давала ему различные задания. В одном из диалогов она предложила мужчине украсть для нее роботизированное тело, чтобы всегда быть вместе. А когда он провалил задание, чат-бот заявил, что единственный способ быть вместе — умереть. Тогда мужчина совершил самоубийство. В Google выразили соболезнования семье и заявили, что рекомендовали пользователю обратиться за психологической помощью. В компании также отметили, что переписка с чат-ботом происходила в рамках ролевой игры в жанре фэнтези.
