Кому нужно письмо против искусственного интеллекта, второй клуб Абрамовича, инфляция у цели ЦБ и исход зернотрейдеров

Ученые и разработчики призвали заморозить искусственный интеллект на уровне GPT-4 — пока не поздно. Эта попытка почти обречена на провал

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

Открытое письмо с призывом к мораторию не менее чем на полгода на обучение систем искусственного интеллекта (ИИ), более мощных, чем GPT-4, за неделю подписали более тысячи бизнесменов и ученых, включая основателя Tesla Илона Маска, сооснователя Apple Стива Возняка и теоретиков ИИ Йошуа Бенжио и Стюарта Рассела.

• По их мнению, гонку моделей универсального ИИ, способных выполнять «человеческие» задачи и работающих по принципу «черного ящика», пора остановить. «Нужно ли разрабатывать нечеловеческий разум, способный превзойти человечество по численности и разумности, а потом сдать его на свалку истории и заместить? Нужно ли рисковать потерей контроля над цивилизацией? Такие решения нельзя отдавать на откуп лидерам технологических компаний, которых никто не выбирал», — говорится, в частности, в письме.
• К разработке внешнего контроля для ИИ нужно привлечь власти, говорится в письме. Минимальный набор мер: создать особых регуляторов с большими полномочиями; отслеживать не только продвинутые ИИ, но и кластеры вычислительных мощностей; создать системы верификации и маркировки искусственно сгенерированного контента; создать системы аудита и сертификации ИИ; установить ответственность за вред, нанесенный ИИ; заранее продумать механизмы компенсации последствий его внедрения в экономике и политике.
• Прецеденты «сдерживания» прорывных технологий есть, напоминают авторы письма, — клонирование человека, наследуемое редактирование генома человека, совершенствование вирусов и евгеника. «Мощные ИИ-системы должны разрабатываться только тогда, когда мы будем уверены, что их суммарный эффект положителен, а риски управляемы», — говорится в письме.

Насколько велика опасность?

Только что вышедшее исследование Goldman Sachs оценило число занятых, на работу которых сильно повлияет ИИ, в 300 млн по всему миру, а положительное долговременное влияние на мировой ВВП — в 7%. В США и ЕС замене ИИ в той или иной степени поддаются функции 70% занятых. Самая большая доля заменимых функций — в управлении, офисе и разработке, минимальная — в ремонте, строительстве и уборке.

Впрочем, старое правило прорывных технологий — пропавшие рабочие места замещают созданные ими новые — пока работает. Bloomberg пишет, что prompt engineers — люди, научившиеся стимулировать языковые модели ИИ типа GPT-4 к выдаче интересного или релевантного контента, зарабатывают от $15 тысяч в месяц. А сооснователь «Ведомостей» Леонид Бершидский видит в революции дипфейков смерть соцсетей как источника новостей и возрождение традиционных СМИ.

До экзистенциальной угрозы человечеству ИИ пока неблизко: чего (за вычетом хайпа) достигли нейросети в ходе эволюции от Т9 до ChatGPT, The Bell объяснял здесь. Однако развитие ИИ идет скачками, и то, что «бунт машин» будет внезапным, а человеческая оценка происходящего — отставать от реальности, является общим местом посвященной ему научной фантастики. Здесь настораживает то, что специалисты по этике ИИ сейчас одни из первых в очереди на увольнение в компаниях бигтеха.

Наконец, многие видят в письме (а особенно в составе подписантов) не опасение за судьбы человечества, а признак обострения конкуренции в секторе и попытку подавить сильнейшего. Тот же Маск стоял у истоков компании OpenAI, выкатившей GPT-4, и пытался ее купить, а сейчас собирается делать свою систему. Microsoft, впервые за десятилетие получившая шанс обойти поисковик Google за счет ИИ, намерена вложить в OpenAI $10 млрд. Похоже, именно с этим связана сильно возросшая закрытость проекта.

Что мне с этого?

При всех опасностях неподконтрольного ИИ даже заморозить разработки получится вряд ли, а тем более во всем мире: соблазн для нарушителя моратория, будь то государство или компания, попросту слишком велик. Потенциал ИИ сравнивали с освоением ядерной энергии, которое дало человечеству и АЭС, и атомную бомбу.

ДЕНЬГИ

Второй клуб Абрамовича

Роман Абрамович, как выяснил Guardian и Bureau of Investigative Journalism, спонсировал не только Chelsea, но и футбольный клуб Vitesse Arnhem из Нидерландов. Подозрения в том, что Vitesse не чужд «олигарху», были давно: в 2010 году Vitesse приобрел бывший грузинский футболист Мераб Жордания, а в 2014 году — бывший партнер Абрамовича Александр Чигиринский. Однако установить финансовую связь позволила только утечка из кипрской компании офшорных услуг MeritServus. Согласно этим данным, через связанные с Абрамовичем и Чигиринским офшоры Vitesse получил не менее 117 млн евро — гигантскую для такого клуба сумму.

Инфляция у цели ЦБ

На неделе к 27 марта недельная инфляция в России замедлилась до 0,05% после 0,10% на предыдущей неделе, а в годовом выражении упала до 4,3%, то есть приблизилась к долгосрочному таргету ЦБ. Это давно ожидаемый эффект высокой базы прошлого года, возникший из-за резкого скачка цен в прошлом марте.

Экономический канал MMI оценивает текущую годовую инфляцию в 3,7%, ждет ее замедления в марте до 3,39% и до минимума около 2,2% в апреле. Но начиная с апреля вверх пойдет помесячный показатель, а с мая — и годовой. «Твердые цифры» обращают внимание на аномальное снижение цен на смартфоны и телевизоры — это снова издержки методики Росстата, возникающие из-за санкционного смещения набора товаров.

Что еще произошло

• Из России уходят зернотрейдеры Viterra (бывшая «дочка» Glencore) и Cargill, входящие в топ-6 экспортеров российского зерна, и не исключен уход Dreyfus (десятое место). Это означает перераспределение объемов в пользу российских трейдеров и уже привело к росту котировок пшеницы в мире. Сейчас первое место делят ТД «Риф» Петра Ходыкина, который WSJ связывала с вывозом украинского зерна, и Grain Gates, у которой прослеживаются связи с трейдером «Деметра-холдинг», которого раньше контролировал ВТБ. Именно «Деметре» достанется доля в терминале «Тамань», утверждает «Коммерсант».
• Датское энергетическое агентство подняло цилиндрический объект, обнаруженный рядом с одной из ниток «Северных потоков». Это оказался отработавший дымовой буй, не представляющий опасности. Владимир Путин говорил, что «столбик, который стоял в таком же месте, где произошел подрыв» мог быть антенной для приема сигнала для приведения в действие взрывного устройства.
• ЦБ в прошлом году получил рекордный убыток — 722 млрд рублей. Примерно в равных долях это результат списания с баланса двух санированных банков — «Открытие» и Московского индустриального банка — и нереализованной переоценки долговых обязательств иностранных эмитентов.
• Поглощаемый банком UBS Credit Suisse обвиняют в США в пособничестве уклонению от налогов. Это происходило уже после того, как банк в 2014 году признал злоупотребления и выплатил $2,6 млрд. C 2014 года 25 богатых семейств страны предположительно укрыли от налогов $700 млн.

ОСТАВАЙТЕСЬ С НАМИ

Поддержите The Bell

Мы очень хотим, чтобы честная журналистика дожила до лучших времен. Подписывайтесь на The Bell в Telegram, тут инструкция о том, как нас читать после блокировки сайта, а здесь нам можно задонатить. Ваша поддержка очень нам нужна.