«Секси-коуч по суициду». Консультанты OpenAI взбунтовались против эротического режима ChatGPT
OpenAI второй раз отложила запуск в ChatGPT «взрослого режима», который должен был разрешить эротические текстовые диалоги с чат-ботом. Причиной стал бунт экспертного совета, где предупредили, что ИИ-эротика грозит эмоциональной зависимостью пользователей и неизбежным доступом несовершеннолетних к откровенному контенту.
Внутренние сомнения
Разрешить эротику в ChatGPT, чтобы «относиться к взрослым пользователям как к взрослым», глава OpenAI Сэм Альтман обещал еще в декабре. Но, когда срок приблизился, релиз перенесли на первый квартал: Альтман разослал внутреннюю записку с пометкой «код красный» и призвал команды сосредоточиться на основном пользовательском опыте ChatGPT.
В начале марта портал Sources сообщил, что запуск снова отложен. Информацию подтвердил Axios. Как объяснил представитель OpenAI, компания намерена сосредоточиться на более приоритетных задачах для большего числа пользователей — например, на развитии таких аспектов ChatGPT, как интеллект, характер (личность) и способность чат-бота быть «более проактивным».
За этим решением стоял бунт собственного экспертного совета — психологов и нейроученых — по благополучию пользователей, выяснила The Wall Street Journal. В январе руководство OpenAI провело с консультантами встречу, на которой объявило, что, несмотря на все высказанные опасения, компания готова двигаться дальше с планами по запуску эротических чатов.
Источники WSJ рассказали, что за этим единодушно последовала гневная реакция. Члены совета предупредили, что новая функция может усилить нездоровую эмоциональную зависимость пользователей от чат-бота, а несовершеннолетние неизбежно найдут способ обойти ограничения. Один из участников встречи, ссылаясь на случаи самоубийств среди пользователей с тесной привязанностью к ChatGPT, заявил, что OpenAI рискует создать «сексуального коуча по суициду».
Дети в зоне риска
Запуск «взрослого режима» напрямую зависит от новой системы прогнозирования и верификации возраста, которая дает оценку на основе запросов и контента, сгенерированного такими инструментами, как Sora. В январе компания сообщила, что начала глобально внедрять технологию в ChatGPT.
На определенном этапе система ошибочно классифицировала детей как взрослых примерно в 12% случаев, говорят источники WSJ. При еженедельной аудитории около 100 млн пользователей младше 18 лет это означало бы, что миллионы подростков могли быть допущены к эротическому контенту. К тому же, по словам источников, OpenAI столкнулась с трудностями при попытке снять ограничения на эротику, сохранив при этом запрет на сценарии с насилием, отсутствием согласия и сексуальной эксплуатацией детей.
По плану, «взрослый режим» позволит только текстовый разговор — генерация эротических изображений, аудио и видео останется заблокированной. Но даже при ограниченном формате сотрудники OpenAI выявили ряд потенциальных рисков:
компульсивное использование чат-бота, эмоциональная зависимость от него,
постепенный переход пользователей к более экстремальному или табуированному контенту и вытеснение реальных социальных и романтических отношений, говорится в документах, с которыми ознакомился WSJ.
Что дальше
На фоне финансового давления и роста конкуренции от идеи OpenAI не отказывается. «Мы по-прежнему верим в принцип “относиться к взрослым пользователям как к взрослым”, — говорится в ее заявлении. — Но, чтобы реализовать этот опыт правильно, потребуется больше времени». Внутри компании говорят о задержке релиза минимум на месяц.