На днях более тысячи ученых, инженеров и предпринимателей направили открытое письмо ИИ-лабораториям с просьбой немедленно приостановить обучение систем искусственного интеллекта, более мощных, чем GPT-4. Среди подписавшихся — Илон Маск, сооснователь Apple Стив Возняк и другие. Они считают, что слишком продвинутые нейронные сети могут угрожать человечеству.
«Открытый Нижний» решил узнать, что на этот счет думают нижегородские ученые. По мнению директора Института информационных технологий, математики и механики ННГУ (бывший ВМК) Николая Золотых, такие опасения действительно есть.
Самое главное, что это письмо подписали не только Маск и Возняк, а специалисты в области ИИ, признанные авторитеты — Йошуа Бенжио и Стюарт Рассел. Они первыми поставили подписи. В первую очередь мы должны прислушаться к ним, — отметил Золотых.
По его словам, основная опасность ИИ в том, что это очень мощная технология. Результатам последних GPT удивились сами разработчики. Исследователи, которые давно этим занимаются, в растерянности. Искусственный интеллект уже способен решить крайне сложные задачи, и велик соблазн начать применять эту технологию повсюду. Но пока никто, включая разработчиков, не знает, какие ошибки и где она может допустить. Последствия таких ошибок могут быть катастрофическими.
Это как атомная бомба, например. Представьте, что было бы, если политики начали использовать ее безо всяких ограничений. Это привело бы к ужасным последствиям. И тут то же самое, — заявил Золотых.
Он пояснил, что подобные технологии, включая GPT-4, не являются какими-то уникальными: понятно, какую архитектуру нейронной сети нужно взять, на чем ее можно тренировать. Основная сложность — техническая. Для этого необходимы очень мощные компьютеры. Такими в нашей стране обладают, по-видимому, Сбер, Яндекс и другие гиганты.
Я уверен, что сейчас они уже приступили к активному обучению своих крутых нейронных сетей по типу GPT. Взращивают виртуальных ассистентов, — отметил собеседник издания.
Еще большие опасения вызывает перспектива создания сильного искусственного интеллекта. Так называют ИИ, который находится на том же уровне, что и интеллект человека, а, может, даже выше. Предполагается, что он способен обладать самосознанием, как человек.
Может быть, в планах этого ИИ не будет человечества. И тогда то самое восстание машин произойдет. Впрочем, иногда взрываются атомные электростанции — не часто, но были такие катастрофы. Это ведь тоже своего рода восстание роботов, — добавил эксперт.
Золотых полностью поддерживает обращение ученых и предпринимателей по поводу ограничения экспериментов с ИИ. По его словам, ученым и лицам, которые принимают решения, необходимо договориться о правилах.
Если бы вы еще год назад спросили почти любого сильного исследователя в области ИИ, он бы сказал, что вы какую-то фантастику рассказываете и что такое, возможно, вообще никогда не произойдет. Если бы спросили меня, я бы сказал, что нужно подождать еще лет сто. Но после последних результатов нейросетей народ серьезно призадумался, — добавил собеседник портала.
Что касается работы в сфере искусственного интеллекта в Нижнем Новгороде, то, по словам эксперта, она активно ведется, но немного в другом направлении. Нижегородские ученые в большей степени занимаются изучением теории: как раз рассматривают те задачи, которые появляются в связи с новыми громкими открытиями.
Так что наши исследования как раз и не имеет смысла приостанавливать, — улыбнулся ученый.
Опасения горожан насчет создания на базе ННГУ монстрообразного ИИ эксперт развеял: у вуза просто нет таких мощностей. При этом Золотых добавил, что Университет Лобачевского находится в десятке передовых научных центров России в области исследований искусственного интеллекта.
Напомним, в последнее время большой популярностью пользуются нейросети, создающие визуальные изображения различных объектов. Например, нейронки уже создавали дизайны нижегородского стадиона на Стрелке и местных трамваев. А также рисовали районы города в образе людей.
Фото: pixabay.com
