RUUZEN
ИИ

В Google DeepMind описали четыре пути от AGI к сверхразуму

Исследователь Google DeepMind Тим Геневейн опубликовал эссе о том, как ИИ может перейти от AGI (уровня человека) к ASI, то есть к сверхразуму.

21 ноября, 21:37Oʻzbekcha

Read in English

BalticServers.com / Wikimedia Commons

Главным двигателем этого перехода автор называет «когнитивную индустриализацию», то есть удешевление умственного труда. Последние десять лет эффективные вычисления для ИИ росли минимум в 10 раз в год. Если темп сохранится, задача, на которую сегодня уходит $1 млрд вычислений, через десятилетие будет стоить около $1000.

Геневейн выделяет четыре сценария. Первый — дальнейшее масштабирование моделей, данных и вычислений, но этот путь упирается в нехватку качественных данных и в пределы инфраструктуры. Второй — новые архитектуры: нынешним моделям всё ещё трудно постоянно учиться и придумывать принципиально новые понятия. Третий — объединение миллионов ИИ-агентов в коллективы, хотя чем больше агентов, тем сложнее их координировать и тем выше риск сговора. Четвёртый — рекурсивное самоулучшение, при котором ИИ сам совершенствует код, алгоритмы и даже чипы.

Автор считает, что эти пути дополняют друг друга. Поэтому, если ограничить один из них, например вычислительные мощности, движение к сверхразуму не остановится. Он призывает уже сейчас разработать способы измерять этот прогресс.