Google DeepMind не обнаружила ускорения развития ИИ, несмотря на автоматизацию кода
Внутренний отчёт Google DeepMind по Gemini 4 Argon не выявил измеримого ускорения исследований ИИ, хотя более 75% производственного кода лаборатории создаётся с помощью ИИ
Один основной источник · Как мы проверяем новости
Что произошло
В отчёте по безопасности Gemini 4 Argon Google DeepMind изучила, ускоряет ли ИИ разработку самого ИИ. Лаборатория заключила, что исследования в области ИИ пока не движутся быстрее, хотя ИИ уже пишет большую часть кода, выпускаемого инженерами DeepMind.
Исследователь Google DeepMind Haydn Belfield сообщил, что значимого сквозного ускорения исследований и разработок в области машинного обучения — с участием ИИ или без него — сейчас нет.
Как проводилась оценка
Для измерения прогресса команда создала внутренний индекс GCI v1. Он объединяет результаты 123 моделей ИИ по 92 тестам в единый показатель для каждой модели.
По оценке Belfield, возможности передовых моделей Gemini улучшаются с достаточно стабильной скоростью — примерно на 0,1 балла GCI в месяц.
На графике индекса Gemini 1.5 Pro набрала около 0,5 балла в конце 2024 года, а Gemini 3.8 Flash — чуть больше 2,9 балла в сентябре 2026 года. Gemini 4 Argon достигла примерно 3,3 балла, но диапазон погрешности её оценки соприкасается с общей тенденцией.
В DeepMind связали результат Argon с увеличением вычислительных ресурсов и организационными вложениями, а не с ускорением, вызванным ИИ. Google представила Gemini 4 Argon 30 сентября.
Почему это важно
Вывод отчёта противоречит сценарию рекурсивного самоулучшения, при котором ИИ создаёт более умную версию себя, а та — следующую, из-за чего прогресс может опередить возможности людей по тестированию, регулированию и отключению систем.
DeepMind продолжает отслеживать этот риск, поскольку ИИ может начать ускорять развитие передовых возможностей быстрее, чем будут успевать адаптироваться безопасность, управление и общество. Более широкая автоматизация также даёт агентам ИИ доступ к большему числу корпоративных систем и расширяет возможности несогласованной модели причинить вред.
Роль человека в разработке
Несмотря на высокую долю кода, созданного ИИ, изменения по-прежнему проходят проверку человеком до отправки. Около 88% запросов на включение изменений требуют многоэтапного управления со стороны человека или написания кода человеком.
Источники
Один основной источник. Как мы проверяем новости
