Google запускает институт DeepMind для расширения дискуссий об искусственном общем интеллекте

Исследователи Google и Google DeepMind открыли институт DeepMind для развития обсуждения искусственного общего интеллекта (AGI), чтобы разработать и предложить новые идеи и взгляды на эту важную тему.

Цели института DeepMind

На этой неделе Google и Google DeepMind анонсировали запуск института DeepMind, который призван ускорить и расширить дискуссию об искусственном общем интеллекте (AGI). В числе директоров института: соучредитель DeepMind Шейн Легг, руководитель Google Джеймс Мэника и председатель Google DeepMind Демис Хассабис, при этом Легг будет исполнять роль управляющего редактора.

Основная цель нового института заключается в выявлении различных мнений между Google, Google DeepMind и более широкой мировой научной сообществом относительно AGI. В официальном заявлении отмечается, что мнения могут расходиться, и участники, вероятно, будут пересматривать свои взгляды по мере появления новых данных и информации на быстро меняющемся фронте исследований.

Первая коллекция эссе

Первая коллекция из четырех эссе охватывает широкий спектр тем, включая варианты экономической политики для управления возможными нарушениями, вызванными AGI, сохранение прозрачности принципов работы различных моделей, критерии человеческого процветания в условиях развития AGI и рамки для оценки передовых моделей ИИ.

Одно из эссе, написанное исследователями безопасности DeepMind Рохином Шахом и Анкой Драган, утверждает, что сокращение прозрачности ИИ — это не неизбежный процесс. Авторы подчеркивают, что с развитием новых архитектур, которые усложняют мониторинг мощнейших моделей, разработчики и регуляторы должны прямо сталкиваться с вопросами безопасности. Это может включать в себя ограничение «непрозрачной последовательной глубины» — количества последовательных вычислений, выполняемых моделью без предоставления читаемого объяснительного следа, или требование от разработчиков доказать, что менее прозрачные системы остаются одинаково контролируемыми.

Предложения по стандартам ИИ

В другом эссе Хассабис предлагает создать орган по стандартам передового ИИ в США для оценки самых современных моделей. В рамках его инициативы разработчики первоначально могли бы добровольно представлять свои модели на оценку за 30 дней до выпуска. После того как система оценки будет признана эффективной, прохождение ее тестов может стать обязательным для внедрения передовых моделей в Соединенных Штатах.

На первом этапе орган будет разрабатывать оценки в сотрудничестве с компаниями ИИ, но вскоре планируется разработка независимых, неразглашаемых оценок, чтобы предотвратить адаптацию лабораторий к известным тестам. Хассабис отметил, что данный подход может быть «усилен, если серьезность ситуации этого потребует», потенциально включая согласованное замедление среди разработчиков передового ИИ.

Эти эссе появляются на фоне смещения дискуссии о безопасности в индустрии от широких заявлений о беспокойстве к конкретным предложениям по раскрытию информации и внешнему контролю. Эта трансформация ускорилась на этой неделе, когда лидеры отрасли поддержали призыв CEO Anthropic Дарио Амодеи к «умеренности» в разработке передового ИИ.