Google добавил в интерфейс Gemini режим психологической помощи

Google обновил устройство чат-бота Gemini, упростив переход пользователей к ресурсам по охране ментального здоровья в кризисные моменты. Об этом компания заявила в официальном пресс-релизе, отметив, что в психологической помощи нуждается более 1 млрд человек по всему миру.

Теперь Gemini тщательнее анализирует то, что в нем пишет пользователь и при первом же распознавании тем, связанных с суицидом или нанесением себе увечий сразу запускает встроенный модуль «Доступная помощь». Сам чат-бот переходит на более чуткую и тактичную стилистику общения, предлагая в конце обратиться за помощью.

Отмечается, что ни Gemini, ни аналогичные нейросети не являются истиной в последней инстанции в решении таких вопросов и рекомендации врачей всегда должны быть в приоритете. Другие компании также внедряли в свои чат-боты функции медицинского консультрования, однако эксперты обращали внимание, что такое применение нейросетей должно носить скорее прикладной характер. Google сотрудничает с клиническими экспертами по этой теме и объявил о выделении $30 млн на поддержку «глобальных горячих линий» по всему миру в течение следующих трех лет.

Компания также подчеркнула, что это изменение правильнее считать «редизайном», нежели большим новым обновлением. Оно должно упростить процедуру перехода на профессиональные ресурсы психологической помощи. Модуль перенаправляет на такие сервисы, как горячая линия по предотвращению самоубийств или линия электронных писем по работе с кризисными ситуациями.

Также в Gemini внедрены специальные механизмы по защите несовершеннолетних пользователей от общения на рискованные темы, список которых включает и все, что связано с суицидом и нанесением себе увечий:

• Gemini не будет вести себя в полной мере как компаньон и собеседник и не будет поддерживать темы обозначенного круга;
• Gemini будет избегать формулировок, имитирующих близость или выражающих потребность в ней, таким образом предотвращая «эмоциональную зависимость» от общения с чат-ботом;
• Gemini будет предоставлять ресурсы для помощи при травле и других видах психологического и иного насилия.

Дополнение интерфейса произошло после судебного иска, заявитель которого утверждал, что чат-бот «обучил» и «подготовил» пользователя, его сына, к совершению самоубийства. Tech Crunch отмечал, что Google стал первым ответчиком по подобному делу, хотя и не был единственной компанией, чей чат-бот поддерживал диалог на тему суицида и, как утверждается, доводил до трагических последствий.