Нобелевскую премию по физике дали за основы искусственного интеллекта

Лауреаты Нобелевской премии по физике этого года — Джон Хопфилд (Принстонский университет) и Джеффри Хинтон (университет Торонто). Премия присуждена «за фундаментальные открытия в области машинного обучения с помощью нейронных сетей».

За что наградили?

Суть открытий ученых — в применении физических методов в исследованиях, проложивших путь к современному искусственному интеллекту, пишет Нобелевский комитет.

  • Хопфилда комитет называет «гигантом биологической физики». В 1970-х он изучал передачу электронов в биологических молекулах и природные механизмы коррекции ошибок. Это позволило ему обосновать механизм ассоциативной памяти в виде «нейронной сети Хопфилда». В основе такой сети лежит механизм, схожий со спином в квантовой физике. Проще говоря, сеть «запоминает» какой-то образ (например, изображение) как равновесное состояние узлов с минимальной энергией. Такая система стремится восстановить это состояние — а значит, и искаженное или неполное изображение.
  • Хинтон использовал прорыв Хопфилда для создания «машины Больцмана» — усложненного варианта сетей предшественника. Если в сетях Хопфилда значения элементов дискретны (0 или 1), то у Хинтона им присваиваются вероятностные значения в соответствии с вездесущим в статистической физике распределением Больцмана. «Оказалось, что „машина Больцмана“ может классифицировать изображения или генерировать новые паттерны на основе тех, которым была обучена, — пишет комитет. — Углубив свои исследования, Хинтон способствовал нынешнему взрывному росту машинного обучения».
  • Хинтон с соавторами в 1980-х разработал еще и теорию использования обратного подкрепления в машинном обучении для целей классификации входной информации. И обратное подкрепление, и скрытые слои, возникающие в нейронных моделях, — это самые основы искусственного интеллекта.

«Набор повседневных областей, в которых применяются искусственные нейросети, очень велик. Это почти все, что мы сейчас делаем с помощью компьютеров, — распознавание образов, генерация языка и многое другое», — резюмирует комитет.

Что известно о лауреатах?

Оба исследователя — настоящие пионеры машинного обучения и живые классики: их основополагающие работы были написаны в 1970–80-х годах.

Хопфилд всегда интересовался больше биологическими аспектами нейросетей и от темы «кремниевых» аналогов постепенно отошел. Его последние работы посвящены нейробиологии, в особенности — «чтению» состояния нейросетей посредством регистрации мембранного потенциала живых клеток. Это тоже важная и перспективная область, но относится она не к ИИ, а к нейроинтерфейсам типа Neuralink Илона Маска. Подробнее о них мы писали здесь.

Хинтона университет Торонто (где он работает с 1987 года) с полным на то основанием назвал «крестным отцом ИИ». В 1990–2000-х годах он вплотную занялся подходами к генеративному искусственному интеллекту, к вычислительным потребностям которого только-только стали приближаться компьютеры. Он разработал быстрые алгоритмы обучения нейронных сетей, которые вместе с первыми реализациями «ограниченных машин Больцмана» стали одной из основ глубинного обучения — deep learning.

Хинтон целых 10 лет — до 2023 года — работал в Google, откуда ушел, пересмотрев свой подход к искусственному интеллекту. Кроме того, он вел большую преподавательскую работу, причем выбрал Канаду вместо США именно потому, что там фундаментальные исследования не так привязаны к грантам Минобороны. Среди студентов Хинтона был сооснователь OpenAI Илья Суцкевер.

Хинтон против ИИ

Теперь 78-летний ученый, для которого переломным моментом стали возможности языковой модели GPT-4 от OpenAI, предостерегает об опасности бесконтрольного ИИ. «Они (ИИ) совершенно не похожи на нас, — рассуждает Хинтон. — Иногда мне кажется, что это как если бы мы встретились с инопланетянами, но не поняли этого, потому что они говорят на идеальном английском». 

По его мнению, искусственные нейросети ИИ уже эффективнее биологических и в хранении информации, и в обучении. «Все попытки отыскать более эффективный аналог обратного подкрепления нейросетей в биологических системах провалились», — говорит исследователь.

Опасность ИИ он видит прежде всего в неограниченной способности делиться опытом, функциональном бессмертии и огромном потенциале вредоносного использования. «Даже не думайте, что Путин не захочет получить сверхразумных роботов, созданных с целью убийства украинцев, — говорит Хинтон. — Он это просто сделает. А если убивать нужно эффективно, микроменеджмент не подойдет: роботы должны соображать сами». Бесконтрольный ИИ прежде всего захватит всю доступную энергию, а потом создаст как можно больше копий себя.

По мнению ученого, система сдерживания ИИ может быть построена по аналогии с системой договоров по химическому оружию. «Она, конечно, несовершенна, но в целом люди больше не применяют химическое оружие», — указывает он. Интервью с ним можно посмотреть, например, здесь.

Скопировать ссылку

Почему российский бизнес зря перестал бояться санкций, что американцы разбомбили в Иране, Тиньков и Калви на канале Лизы Осетинской

К четвертому году войны российский бизнес окончательно перестал бояться санкций — в опросе руководителей российских компаний внешнеторговые ограничения и «геополитическая напряженность» не вошли даже в топ-3 главных рисков. К тому, что российская экономика успешно справляется с санкциями, кажется, все привыкли. Но на деле все не так просто.

«Жить надо сегодня». Олег Тиньков и Майкл Калви — о своих новых инвестициях после ухода из России

Олег Тиньков и Майкл Калви знакомы почти 30 лет, и за это время их судьбы не раз пересекались. Они оба пережили аресты (кстати, недавно Майкл выпустил книгу о том, как сидел в российском СИЗО), боролись с раком и почти одновременно были вынуждены отказаться от успешных бизнесов в России. Елизавета Осетинская (признана в РФ иноагентом) встретилась с ними в Форте-дей-Марми, чтобы поговорить об их новом проекте — мексиканском финтех-единороге Plata, в который вместе с партнерами Калви и Тиньков вложили около $300 млн. Сколько инвестиций нужно, чтобы быстро вырастить единорога, чем привлекателен рынок Латинской Америки, а также — о личных тратах Тинькова, сокамерниках Калви и уходе эпохи иностранных инвесторов из России. Целиком интервью смотрите на канале «Это Осетинская», а мы публикуем сокращенную версию.

Рассылки The Bell стали платными. Подписывайтесь!

НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЕН И РАСПРОСТРАНЕН ИНОСТРАННЫМ АГЕНТОМ THE BELL ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА THE BELL. 18+

В обход санкций и SWIFT. Как «Сбер» научился отправлять деньги клиентов в Европу

«Сбер» нашел лазейку для обхода отключенного SWIFT и санкций и наладил перевод денег в Европу по одному только номеру карты, узнал The Bell. Мы убедились в том, что схема, с помощью которой Сбербанк обещает клиентам отправлять за рубеж до полумиллиона рублей за одну операцию, работает. А еще — разобрались в том, как она устроена.