Один из основателей OpenAI и ее главный научный сотрудник Илья Суцкевер, который, по всеобщему убеждению, мог инициировать внезапное увольнение бывшего гендиректора компании Сэма Альтмана, 17 октября выступил на конференции Ted Talks. Сама лекция была выложена на YouTube только сегодня. В ней Суцкевер, отвечающий за все исследования в компании, раскрывает потенциал «универсального искусственного интеллекта» (AGI) и объясняет, как тот может превзойти человеческий и глубоко повлиять на все сферы жизнедеятельности. The Bell приводит расшифровку его выступления на русском языке, сделанную при помощи хитового продукта OpenAI — чат-бота ChatGPT.

Вы все стали свидетелями прогресса, достигнутого в области искусственного интеллекта. Многие уже пообщались с компьютером, и компьютер понял вас и ответил вам. С учетом темпов прогресса несложно представить, что в какой-то момент в будущем наши «интеллектуальные компьютеры» станут такими же умными, как люди, или даже умнее. И несложно представить, что, когда это произойдет, влияние искусственного интеллекта станет действительно огромным.

Вы можете спросить себя: «когда технологии станут настолько мощными, будет ли все в порядке?» Моя задача — показать силу, которую многие из вас, возможно, не замечают. И это дает мне надежду, что мы действительно останемся довольны результатом.

Итак, что такое искусственный интеллект и как он работает? Оказывается, объяснить это очень просто всего в одном предложении. Искусственный интеллект — не что иное, как цифровые мозги внутри больших компьютеров. Любое проявление интереса к ИИ, которое вы наблюдали, основано на этой идее. Ученые и инженеры десятилетиями изучали, как эти цифровые мозги должны работать и как их проектировать.

Интересно, что центром интеллекта у человека выступает биологический мозг. Поэтому вполне логично, что центр интеллекта у технологии ИИ — искусственный мозг.

«Что случилось в OpenAI?» Прямой эфир с братьями Либерманами и Николаем Давыдовым на канале «Это Осетинская!»

В этот четверг на канале «Это Осетинская!» пройдет специальный прямой эфир, где мы попробуем разобраться, что могло случиться с OpenAI и какие есть версии у людей, которые лично знают всех героев этой истории. На связи с Елизаветой Осетинской (признана в РФ иноагентом) будут Николай Давыдов — инвестор из Кремниевой долины, основатель венчурного фонда Davidovs VC и братья Либерманы — визионеры, инвесторы и предприниматели.

Приглашаем вас принять участие в этой дискуссии и задать свой вопрос!

Подключайтесь к трансляции 23 ноября в 19:00 (мск).

Здесь я хотел бы сделать отступление и рассказать вам о том, как пришел в сферу ИИ. Меня привлекли три силы.

Во-первых, когда я был маленьким ребенком, лет примерно пяти-шести, меня очень поразило собственное сознательное переживание, тот факт, что я — это я, что я что-то переживаю, что, когда я смотрю на вещи, я их вижу. Со временем это чувство ушло, но лишь одно воспоминание и сейчас возвращает его. Это чувство, что я — это я, а вы — это вы, мне казалось очень странным и почти тревожным. Поэтому, когда я узнал об искусственном интеллекте, то подумал: «Вау, если бы мы могли собрать „умный компьютер“, то, возможно, мы бы узнали что-то о себе, о нашем собственном сознании». Это было моей первой мотивацией.
Вторая — более прозаичная. Мне было просто интересно, как работает интеллект. В начале 90-х, когда я был подростком, я понял, что наука не знает, как это устроен.
Была и третья причина. Мне стало ясно, что, если искусственный интеллект заработает, это окажется невероятно важно. [Тогда] было совсем не очевидно, что можно добиться прогресса в искусственном интеллекте. Но, если бы это стало возможным, то оказалось бы невероятно важным.

Таким образом, было три причины, почему технология ИИ меня привлекла и я решил, что это отличная область, на которую стоит потратить все свои усилия.

Вернемся к искусственному интеллекту. Цифровые мозги сегодня гораздо менее умны по сравнению с биологическими. Когда вы разговариваете с чат-ботом ИИ, вы очень быстро осознаете, что все еще соображает не на должном уровне и есть много вещей, которые он не может делать, некоторые странные пробелы. Но я подчеркиваю, что эта ситуация временная. По мере того, как исследователи и инженеры продолжают работать над ИИ, наступит день, когда цифровые мозги в наших компьютерах, станут так же хороши и даже лучше, чем наши собственные биологические мозги. Мы называем это AGI, или «универсальным (общим) искусственным интеллектом», когда говорим про уровень, на котором можно научить ИИ делать все, что, например, могу делать я или кто-либо другой.

Хотя сейчас AGI нет, мы все равно можем получить некоторое представление о его воздействии, как только он появится. Совершенно очевидно, что AGI будет иметь драматическое влияние на каждую сферу жизни.

Предлагаю рассмотреть небольшой пример, который касается здравоохранения. Многие из вас, возможно, сталкивались с необходимостью обратиться к врачу. Иногда приходится ждать своей записи несколько месяцев. Когда вы наконец попадаете на прием, время самой консультации с доктором оказывается очень ограниченным. Врач, будучи человеком, обладает не всеми медицинскими знаниями, а еще в конце вам придется оплатить большой счет за лечение.

Но представьте, если у вас появится «интеллектуальный компьютер» — AGI, созданный для работы врачом. Он будет обладать полными и исчерпывающими знаниями из всей медицинской литературы, миллиардами часов клинического опыта, а также всегда будет доступен и очень дешев. Когда это случится, мы вспомним сегодняшнюю систему здравоохранения так, как сейчас вспоминаем стоматологию XVI века, когда людей привязывали ремнями и лечили зубы механическими сверлами.

Это лишь один пример. AGI будет иметь огромное и невероятное влияние на каждую сферу человеческой деятельности. Но при таком масштабном влиянии можно задаться вопросом: не слишком ли велико воздействие этой технологии?

Действительно, на каждое положительное применение AGI найдется и отрицательное. Эта технология будет отличаться от тех, к которым мы привыкли, так как она сможет улучшаться самостоятельно. Возможно создание AGI, который будет заниматься разработкой следующего поколения AGI. Это напоминает быстрый технологический прогресс во время промышленной революции, когда материальное состояние человеческого общества быстро росло. С AGI такое может повторится, но за более короткие сроки.

Есть также опасения, что, если AGI станет очень мощным, он может захотеть действовать самостоятельно. При изучении всего позитивного потенциала AGI и всех его рисков возникает вопрос: куда все это ведет? В числе того, что мотивировало меня на запуск OpenAI, помимо разработки данной технологии, было решение сложных вопросов и проблем, связанных с AGI. Мы работаем с правительствами, помогаем им понять, что нас ждет, и готовимся к этому. Мы также проводим много исследований в области технологий, чтобы AGI никогда не захотел действовать самостоятельно. Это то, над чем я тоже работаю.

Важно отметить, что ИИ и AGI — это единственные области экономики, где существует подобный ажиотаж и инвестиции. Все работают над этим, множество лабораторий по всему миру пытаются создать то же самое. Даже если OpenAI предпримет желательные шаги [в сфере безопасности ИИ], о которых я говорил, что насчет остальных компаний и остального мира? Здесь я хочу поделиться своим наблюдением о силе.

Взглянем на мир год назад. Всего год назад люди не говорили об ИИ так, как сейчас. Что произошло? Мы все испытали, что значит говорить с компьютером и быть понятыми. Идея о том, что компьютеры станут действительно умными (в конечном итоге, умнее нас) становится всеобщей. Раньше эта идея обсуждалась в узких кругах, о ней думали только немногие энтузиасты и любители ИИ, но теперь задумались все. По мере того, как ИИ продолжает развиваться и его технологии улучшаются, все больше и больше людей видят, что может ИИ и куда он движется, станет ясно, насколько драматичным, невероятным и почти фантастическим будет AGI и как много беспокойства это вызывает.

Я считаю, что люди начнут как никогда раньше сотрудничать друг с другом в собственных интересах. Это уже происходит: ведущие компании в области AGI начинают взаимодействовать, например, как группа Frontiers model. Мы ожидаем, что компании-конкуренты будут делиться технической информацией, чтобы сделать свой ИИ безопасным. Мы даже можем стать свидетелями того, как это делают правительства. Например, в OpenAI мы действительно верим в то, насколько драматичным будет развитие AGI. Одна из идей, которой мы руководствуемся и которая зафиксирована на нашем сайте уже пять лет, заключается в том, что, когда технология приблизится к AGI — к уровню, когда компьютер станет умнее человека, то, если другая компания окажется далеко впереди нас, вместо того, чтобы соперничать, мы станем помогать и присоединимся к ней в некотором смысле.

Зачем так поступать? Потому что мы осознаем, насколько невероятно драматичным будет развитие AGI. Я уверен, что с каждым новым поколением широких возможностей, по мере того, как ИИ становится лучше и как все вы испытываете на себе то, что способен делать ИИ, люди, участвующие в разработке и ИИ, и AGI, будут ощущать это. И это изменит наш взгляд на ИИ и AGI, это изменит коллективное поведение. Вот та важная причина, по которой я надеюсь, что, несмотря на большие проблемы, которые ставит перед нами эта технология, мы их преодолеем.

#илья суцкевер