DeepMind выпустили большое исследование о том, что ждет нас после AGI

DeepMind выпустили большое исследование о том, что ждет нас после AGI

Статья (кстати, под интересным названием «От AGI к ASI») получилась очень небанальной и, скорее, философской. Основная идея авторов в том, что AGI – никакой не предел мечтаний, как мы привыкли считать благодаря маркетингу, а только начало.

Что такое AGI? Это Artificial General Intelligence, ИИ уровня человека. Но человеческий интеллект, на деле, очень ограничен. Ян Лекун вообще говорит, что AGI как термин он считает вводящей в заблуждение идеей, потому что человеческий интеллект никакой не «общий», а во многом специализированный и сформированный эволюцией, и люди универсальны только в тех задачах, которые мы способны вообразить.

Google следуют примерно той же логике, и проводят аналогию с физической силой. Если бы прогресс машин остановился на уровне человеческой силы, подумайте, каким был бы мир. Тут то же самое: человеческий мозг ограничен биологией, а машинные знания, память и способности можно масштабировать и ускорять.

Поэтому, на самом деле, мы стремимся к ASI, а не AGI – Artificial Superintelligence. Это уже система, которая превосходит даже не одного человека, а целые организации.

Путей к ASI несколько. Либо масштабирование текущих систем, либо какой-то парадигмальный скачок, либо самоулучшение ИИ, либо, и это самое интересное, сверхинтеллект как коллектив.

Причем для последнего варианта даже не требуется никакого сверх-развития. Например, прогресс моделей остановился на уровне AGI. Но при этом мы все еще можем наращивать вычислительные ресурсы, и тогда через несколько лет вместо тысячи экземпляров AGI можно будет запускать миллионы или сотни миллионов экземпляров. Чем не ASI?

В общем, чтиво занятное. Футуристам и любителям научной фантастики ссылка на полный текст: https://arxiv.org/pdf/2606.12683.