Дослідники Google заснували DeepMind Institute, метою якого є аналіз різноманітних поглядів на розвиток загального штучного інтелекту (AGI). Про це повідомляє видання TechCrunch. Керівниками інституту призначено співзасновника Google DeepMind і головного редактора проєкту Шейна Легга, топменеджера Google Джеймса Маніку та голову DeepMind Деміса Гассабіса. У межах першої публікації есе Деміс Гассабіс запропонував створити у США спеціальний орган для оцінювання найпотужніших моделей ШІ. На початковому етапі компанії мають подавати свої розробки на перевірку добровільно, щонайменше за 30 днів до офіційного релізу. У майбутньому проходження таких тестів може стати обов’язковою умовою для запуску моделей на території США. Спочатку методики оцінювання розроблятимуться спільно з ШІ-компаніями, проте згодом орган перейде до використання власних закритих тестів, щоб запобігти адаптації моделей під відомі критерії. Гассабіс зазначив, що правила можуть ставати суворішими залежно від ситуації, аж до скоординованого сповільнення темпів розробки. Дослідники безпеки DeepMind Рогін Шах та Анка Драган у своєму есе стверджують, що втрата можливості контролювати міркування моделі не є неминучою. Вони пропонують обмежити обсяг послідовних обчислень без фіксації логіки або вимагати доказів того, що менш прозорі системи піддаються моніторингу. Інші матеріали збірки присвячені економічній політиці в умовах впливу AGI та принципам людського процвітання. Раніше гендиректор Anthropic Даріо Амодей також закликав регулювати темпи розробки передового штучного інтелекту.
