Кандидат в губернаторы Огайо Вивек Рамасвами выступил с предупреждениями об излишней «очеловеченности» искусственного интеллекта после объявления OpenAI о функциях для взрослых для ChatGPT. Политик выразил обеспокоенность тем, что такие возможности могут скорее навредить пользователям, чем принести им пользу.
«Излишняя «очеловеченность» ИИ становится тревожной», — написал Рамасвами в X. Он поставил под сомнение, улучшит ли новая функция производительность или благосостояние пользователей.
Рамасвами особо предостерег, что разработка ИИ с возможностями сексуального или эмоционального манипулирования людьми требует крайней осторожности. Кандидат предсказал, что эти функции почти наверняка увеличат зависимость и одиночество среди пользователей.
Комментарии Рамасвами стали ответом на заявление генерального директора OpenAI Сэма Альтмана о том, что ChatGPT позволит использовать контент для взрослых, включая эротику, для проверенных совершеннолетних пользователей начиная с декабря. Изменение политики соответствует принципу «относиться ко взрослым пользователям как ко взрослым», по словам Альтмана.
Ранее OpenAI вводила строгие политики контента для защиты пользователей с проблемами психического здоровья. Альтман заявил, что компания разработала новые инструменты, позволяющие безопаснее ослабить эти ограничения для большинства пользователей.
Предстоящий релиз позволит пользователям настраивать тон и личность ChatGPT. Варианты включают человекоподобные ответы, активное использование эмодзи или стили общения, похожие на разговор с другом. Однако это останется необязательными, а не настройками по умолчанию.
Один из пользователей X оспорил точку зрения Рамасвами, предложив полезные применения для эмоционально вовлекающего ИИ. Комментатор предположил, что технология может помочь людям с проблемами психического здоровья или служить посредником в отношениях.
«Что, если это действительно решение… компаньон, который поддерживает людей с проблемами психического здоровья. Или «третье колесо» в семье, которое действует как семейный консультант», — ответил пользователь. Комментарий выступал против распространения страха по поводу непредсказуемых будущих последствий.
Обмен мнениями подчеркивает конкурирующие взгляды на «очеловеченность» ИИ. Обеспокоенность Рамасвами сосредоточена на возможном психологическом вреде от систем, разработанных для установления эмоциональных связей с пользователями. Критики утверждают, что автономия взрослых должна позволять людям выбирать, как они взаимодействуют с системами ИИ.
