Вышел AI Safety Report 2026: самый полный на данный момент отчет о…

Вышел AI Safety Report 2026: самый полный на данный момент отчет о рисках и возможностях современного ИИ

В составлении документа принимали участие более 100 ученых из ведущих организаций 30 стран, а председателем комиссии выступил легендарный Йошуа Бенджио.

Отчет целиком просто огромный: более двухсот страниц анализа. Но, к счастью, в этом году авторы сжалились и выпустили также расширенное саммари. Там 20 страниц и все основные графики – если собираетесь читать, советуем именно его. Мы же попытались собрать еще более емкое резюме. Поехали:

Возможности ИИ к 2030 году:

➖Эксперты прямо говорят, что, основываясь исключительно на фактах, без додумок, предсказать, каким будет ИИ к 2030 очень сложно. Это могут быть и небольшие улучшения, и очень стремительный рост.
➖Маловероятно, что к 2030 ИИ-пузырь лопнет. Компании будут продолжать привлекать капитал, алгоритмы будут становится все эффективнее, мощности будут нарастать.
➖Есть и узкие места: в основном данные и энергия. Сейчас продолжительность задач в разработке ПО, которые могут выполнять агенты ИИ, удваивается примерно каждые семь месяцев. Если, несмотря на сложности, темп сохранится, к 2030 году ИИ сможет надежно выполнять задачки, которые у людей занимают дни и недели. НО, вероятно, все еще будет нестабилен в нестандартных ситуациях.

Основные риски:

➖Отчет делит риски на три уровня: от злонамеренного использования, от сбоев и ошибок самих систем и системные социальные риски.
➖Сейчас опаснее всего: масштабирование мошенничества и влияния на общественное мнение с помощью ИИ (сюда же deepfake-контент), кибератаки и галлюцинации. То есть, если не говорить о неправометрном использовании, основной опасностью остается факт, что системы выглядят умнее и надежнее, чем они есть на самом деле.
➖ На горизонте нескольких лет нам угрожает в первую очередь снижение барьера для биологических и химических угроз, и только потом – появление автономных, трудно контролируемых систем.
➖ Есть и политические риски, В первую очередь, централизация власти: страны и организации без собственного ИИ-стека ожидаемо станут структурно зависимыми.

Что касается рынка труда и социальных эффектов:

➖ Пока нет никаких доказательств массового эффекта, оказываемого ИИ на рынок труда, ХОТЯ в ряде профессий действительно наблюдается снижение занятости у молодых специалистов, но пока без алармизма.
➖ Массовой безработицы ожидать не стоит, нужно бояться скорее социальной и экономической поляризации общества: спрос на средний класс специалистов резко упадет, на сильнейших – резко вырастет. И тем не менее, пока предсказать трудно, потому что это первый случай в истории, когда автоматизация бьет по когнитивному труду раньше физического. Плюс, распространяется ИИ гораздо быстрее Интернета или компьютеров в свое время.
➖ Сильнее прочего людям угрожает лень, то есть атрофия навыков и эрозия ответственности (в том числе юридическая). Возможно массовое снижение навыков критического мышления.

Как говорится, делаем выводы. Все самые интересные графики оставили сверху