Открытое письмо с призывом к всемирному мораторию на полгода на обучение систем искусственного интеллекта, более мощных, чем GPT-4, подписали уже более тысячи бизнесменов и исследователей, включая основателя Tesla и SpaceX Илона Маска и сооснователя Apple Стива Возняка.

По их мнению, безудержную гонку моделей ИИ, способных выполнять «человеческие» задачи и работающих по принципу «черного ящика», пора остановить и создать протоколы независимого внешнего контроля. В противном случае человечество встанет перед угрозой нечеловеческих разумов, «способных превзойти его в численности и разумности, заменить и выбросить на свалку истории».

«Мощные ИИ-системы должны разрабатываться только тогда, когда мы будем уверены, что их суммарный эффект положителен, а риски управляемы», — говорится в письме. 

• Мораторий не означает запрета на разработку ИИ, а только на обучение, без которого ИИ остается набором кода.
• Новая языковая модель ИИ GPT-4 от компании OpenAI (соучредителем которой был Маск) была представлена в середине марта. Она способна извлекать смысл не только из текста, но и из графики, и уже справляется со многими тестовыми заданиями на уровне человека. Детально особенности модели, включая обучение, не раскрывались, что вызвало критику других разработчиков.
• Вероятно, последнее связано с резко обострившейся конкуренцией: Microsoft, впервые за десятилетие получившая шанс обойти поисковик Google за счет ИИ, намерена вложить в OpenAI $10 млрд.
• Маск и раньше обращал внимание на опасности ИИ, сравнивая его с освоением ядерной энергии, которое дало человечеству и АЭС, и атомную бомбу.