Новости

AGI: Опасная мечта человечества. Стоит ли её создавать?

На Всемирном экономическом форуме в Давосе в январе 2026 года произошло острое столкновение двух полярных позиций относительно сильного искусственного интеллекта, или ИИ общего назначения (artificial general intelligence, AGI). Речь идёт не о системах, способных лишь генерировать видео по описанию или планировать поездки, а о полноценном интеллекте, неотличимом в практическом плане от человеческого. Оптимисты, в лице генерального директора Anthropic Дарио Амодеи (при активной, хотя и заочной, поддержке главы OpenAI Сэма Альтмана), утверждали, что AGI станет реальностью уже в ближайшие годы, а разработчики движутся к созданию «суперинтеллекта», превосходящего совокупный ум всего человечества. Скептики же, такие как руководитель разработки Gemini в Google, нобелевский лауреат Демис Хассабис, или один из пионеров ИИ, лауреат премии Тьюринга Ян Лекун, настаивали на фундаментальной ограниченности современных больших языковых моделей для достижения подлинного AGI, сопоставимого с человеческим разумом.

 «Ну сколько можно ждать, пока меня наконец-то изобретут?» (Источник: ИИ-генерация на основе модели SeeDream 4.5)

«Ну сколько можно ждать, пока меня наконец-то изобретут?» (Источник: ИИ-генерация на основе модели SeeDream 4.5)

Впрочем, Хассабис сделал оговорку, оценив вероятность создания желанного AGI в ближайшее десятилетие примерно в 50% — «как шанс встретить динозавра». Для этого, по его словам, «возможно, потребуется ещё один или два фундаментальных прорыва». Среди ключевых направлений для таких прорывов он назвал способность моделей к обучению на малом количестве примеров, непрерывному самостоятельному познанию, эффективной работе с долговременной памятью и, наконец, к активному саморазвитию, включая совершенствование навыков логического мышления и планирования.

И переход, который необходимо совершить в этой области разработчикам, носит фундаментально иной характер: современные большие языковые модели, по сути, совершенно лишены какого-либо интеллекта — ни общего, ни специализированного. Они представляют собой не более чем стохастических попугаев (stochastic parrots — устоявшийся в профессиональной среде термин), чья иллюзия разумного поведения — лишь отражение (или, точнее, переработка) информации, созданной подлинным человеческим разумом и взятой из обучающих массивов. Такая модель просто соединяет один токен с другим, опираясь на статистические закономерности и элемент случайности, но собственного осмысления своих действий у неё нет. Именно этим объясняются и галлюцинации, и уязвимость к атакам через «отравление» данных и подсказок, и неумение разграничивать реальность и воображение. Очевидно, что в идеале пресловутый Искусственный Общий Интеллект должен преодолеть это попугайство, перестать лишь воспроизводить (пусть и с вариациями, принимаемыми за креативность) идеи, почерпнутые из обучающей выборки, и начать создавать собственные. Конечно, отталкиваясь от усвоенной базы знаний — но разве не так же действует и биологический интеллект? Почему же тогда мы считаем интеллектуалом увлечённого школьника, который к месту цитирует великих философов, а ChatGPT, Grok или Claude, приводящих те же цитаты даже точнее и со ссылками на источники, — нет?

 «Попка не дур-р-рак! Попка стохастик!» (источник: ИИ-генерация на основе модели GPT-image-1)

«Попка не дур-р-рак! Попка стохастик!» (Источник: ИИ-генерация на основе модели GPT-image-1)

Интеллект — это сложное и многогранное явление, даже если рассматривать его не в философском, а в сугубо прикладном ключе. Он охватывает усвоение новых данных, умение справляться с проблемами, распознавание закономерностей в информации, работу с абстрактными и сложными концепциями (так называемый гибкий интеллект) и использование накопленных знаний и опыта (кристаллизованный интеллект). Кроме того, существует социальный интеллект, крайне важный для взаимодействия в группе, и физический (вернее, телесный — подразумевающий мастерство управления телом и предметами в пространстве), особенно развитый у талантливых спортсменов. Однако все эти критерии хорошо подходят для живых существ, чьи тела и разумы сформированы эволюцией. Но как оценивать искусственный интеллект — на каком основании судить, достаточно ли он умен, чтобы сравниться с человеком? И как на практике определить — когда и если это произойдет — что обычный искусственный интеллект наконец стал сильным? Тест Тьюринга сегодня уже явно не подходит — требуется другой метод.

#Определимся с определениями

Для начала стоит разобраться, как вообще можно оценить уровень интеллекта, предварительно уточнив, что под этим понятием подразумевается. Сначала определить объект изучения, а затем — подход к его измерению. Звучит логично, однако на практике это вызывает немало сложностей, начиная с самих определений и методик. Это становится очевидным, если учесть, что измерить интеллект, даже у человека, — задача весьма непростая. Система IQ-тестов довольно успешно оценивает способность решать определённый класс задач, что с некоторыми допущениями можно считать показателем ума — в контексте современной западной городской культуры. Однако, например, охотник-собиратель, вооружённый самодельными копьём и луком, прекрасно выживает в дикой природе, хотя в таком тесте, вероятно, не наберёт и половины баллов. В то же время уважаемый гарвардский профессор с IQ выше 130 в тех же условиях и с тем же снаряжением вряд ли продержится больше нескольких дней. Так кто же из них обладает более развитым интеллектом?

 Чтобы доказать, что вы не робот, подберите… а, проехали; уже не актуально (источник: Nobel IQ)

Чтобы доказать, что вы не робот, подберите… А, проехали; уже не актуально (источник: Nobel IQ)

Сложность заключается в том, что вряд ли возможно дать универсальное — вне зависимости от среды применения умственных способностей — определение интеллекта. Неслучайно его часто понимают как общую познавательную способность, которая выражается в том, как индивид воспринимает, осмысливает, объясняет и предвидит события, прежде всего касающиеся его самого, какие решения принимает и насколько эффективно действует — особенно в непривычных обстоятельствах; в противном случае поведение сводится к набору условных рефлексов и шаблонных реакций на знакомые раздражители. Антропологи же склонны определять интеллект как умение находить нестандартные решения для неординарных задач — опираясь, конечно, на предыдущий опыт.

На первый взгляд, всё кажется предельно ясным: вероятностный алгоритм изначально не может применять нешаблонные подходы — те, что отсутствовали в обучающей выборке данных, — не говоря уже о способности принимать сколь-либо осознанные решения. Ему поступает запрос — он преобразует его в последовательность токенов — продолжает эту последовательность, следуя закономерностям, усвоенным во время обучения и закреплённым в виде весов на входах нейронов — переводит полученную цепочку токенов ответа в набор символов и знаков препинания (или изображение, или видео, — неважно) — и возвращает результат пользователю. Ни понимания сути вопроса, ни самостоятельности в поиске решения, ни какого-либо творческого подхода (если не считать уже упомянутой доли случайности, добавляемой в процессе авторегрессии) здесь в принципе не предполагается. Вопрос кажется закрытым, Хассабис и Лекун правы, достичь общего искусственного интеллекта через большие языковые модели невозможно, — можно разойтись до появления каких-либо фундаментально новых идей в области ИИ. Или не всё так однозначно?

 «Тварь я дрожащая или взглянуть на свет право имею?» (источник: ИИ-генерация на основе модели Nano Banana)

«Тварь я дрожащая или взглянуть на свет право имею?» (Источник: ИИ-генерация на основе модели Nano Banana)

В действительности вопрос оказывается несколько запутаннее — во многом из-за многозначности самого понятия «интеллект» (англ. intelligence, лат. intellectus, что означает «постижение, уразумение»), которое за столетия философских, психологических и общественных исследований существенно размылось. Неясности возникли ещё со времён Иммануила Канта (Immanuel Kant), перевернувшего устоявшееся у средневековых схоластов разделение intellectus и ratio (разума) как высшей и низшей познавательных способностей. Таким образом, докантовский, метафизический термин intellectus означал сверхчувственное восприятие духовных основ, свободное от грубого, практического опыта; simplex intuitus в терминологии томизма. В то же время ratio именовали простейшей формальной абстракцией — умением выводить общее из частного, доступным в определённой степени даже амёбам: ведь они стремятся избегать яркого света и экстремальных температур, перемещаясь в более комфортные условия, — а значит, преобразуют своё, ничтожное по сравнению с человеческим, чувственное восприятие в сугубо практическое и рациональное, хотя и не осознанное (у них попросту нет для этого инструмента, отсутствует нервная система), действие.

Следовательно, если ratio свойственно повседневному, предметному существованию, оно активно, требует сравнений, умозаключений, проб и ошибок — и уже поэтому в схоластической трактовке низменно, — то intellectus, напротив, раскрывается в созерцании, озарении, пассивном прозрении в первооснову явления; а значит, его можно причислить к божественным качествам. Немецкая философская мысль раннего периода придерживалась этой традиции, обозначая ratio — дискурсивный, рассудочный, логический разум — как Vernunft (что в переводе с немецкого и означает «разум»), а intellectus — высшее, метафизическое проникновение в сущность вещей — как Verstand (основное значение — именно «понимание»).

 Верный подданный Её Императорского Величества Елизаветы Петровны Иммануил Кант критикует Чистый Разум при большом стечении не на шутку заинтересованного народа; рисунок Питера Брейгеля Старшего (источник: ИИ-генерация на основе модели Nano Banana)

Верный подданный Её Императорского Величества Елизаветы Петровны Иммануил Кант критикует Чистый Разум при большом стечении не на шутку заинтересованного народа; рисунок Питера Брейгеля Старшего (источник: ИИ-генерация на основе модели Nano Banana)

В своём главном сочинении «Критика чистого разума» Кант бросил вызов классической схоластической метафизике — ведь её предмет находится за границами человеческого опыта, поэтому она не способна стать точной наукой, чьи утверждения выводятся логически и проверяются на практике. Кстати, вслед за Лейбницем (Gottfried Wilhelm Leibniz) философ именовал «чистым» разум, свободный от эмпирического содержания; разум как таковой, саму способность познавать, — чем не сложная нейросеть в её изначальном состоянии, с нулевыми весами на входах всех перцептронов? Отвергая для человеческого разума интеллектуальную интуицию — то есть прямое постижение сущностей, первопричин или метафизических реальностей, — Кант продемонстрировал, что человеческий интеллект по природе своей дискурсивен. Именно поэтому он назвал Vernunft ту «склонную к метафизике» самоуверенную попытку охватить в принципе недоступное абсолютное, которая неизбежно ведёт к иллюзиям. В результате философ обозначил термином Verstand анализ опыта — обыденное умение формировать практические понятия и строить логические умозаключения на эмпирической основе. А высшую способность создавать метафизические идеи (и одновременно диалектически развенчивать трансцендентальные иллюзии), прежде именовавшуюся intellectus, он назвал Vernunft.

Данную систематизацию впоследствии перенял Георг Вильгельм Фридрих Гегель, а за ним — и другие мыслители Нового времени. Именно благодаря им в переводные работы — как на русский, так и на английский язык — проник термин «интеллект» в качестве кантовского Verstand. Изначальное же, схоластическое значение этого понятия — «непосредственное познание» через божественное откровение — перешло к Vernunft, трактуемому как способность формировать абсолютные, умозрительные концепции (например, «свобода» или «бессмертие»), оторванные от приземлённой практики. Поскольку у Канта Verstand предполагает активное применение врождённых категорий (таких как причинность, субстанция и единство) для создания в сознании человека связных и осмысленных впечатлений, этот процесс неразрывно связан с самосознанием и нравственной самостоятельностью — качеств, которые у современных систем ИИ явно отсутствуют. Возможно, кстати, это и к лучшему: морально автономный искусственный общий интеллект (AGI) вполне мог бы создать человечеству серьёзные проблемы.

 Через специализированные s-факторы различных умственных способностей косвенно определяется общий g-фактор интеллекта (источник: Simply Psychology)

Общий g-фактор интеллекта косвенно выводится через специфические s-факторы отдельных умственных способностей (источник: Simply Psychology)

#Всё сводится к G

Однако сходств между кантовским пониманием разума и тем значением, которое вкладывается в этот же термин в контексте «искусственного интеллекта», более чем достаточно. И классическая философия — лишь начало: на рубеже XIX–XX веков, в эпоху тотальной индустриализации и перехода к массовым призывным армиям, возникла насущная потребность измерять интеллект, даже не углубляясь в вопрос о его физической или метафизической сущности. Стало совершенно ясно, что один человек легко управится с паровым двигателем даже в аварийной ситуации, а другой неизменно путает, какие ключи подать; что один новобранец освоит беспроводной телеграф за несколько дней, а другому нельзя доверить для уборки плаца ничего тоньше лома.

В результате возникло психометрическое (или тестологическое) направление исследования интеллекта: Чарльз Спирмен (Charles Edward Spearman), один из основателей психометрии, статистически обосновал известную идею о том, что талантливый человек проявляет способности в разных сферах. Анализируя итоги школьных экзаменов в начале 1900-х годов, он обратил внимание: если ученик демонстрирует высокие результаты по одному предмету, то, скорее всего, и по другим его успехи будут выше среднего. Положительную взаимосвязь между формально независимыми видами умственной работы Спирмен объяснил влиянием доминирующего фактора, который он назвал g (от английского general — общий; это же слово позже вошло в аббревиатуру «AGI») — общим фактором интеллекта. Способности, специфичные для отдельных областей мышления, он просто обозначил как s-факторы. Таким образом, количественный тест для определения уровня g-фактора в этой модели заключается в измерении и точном учёте (поскольку они изначально не равнозначны) определённого набора s-факторов — с помощью относительно простых и хорошо откалиброванных испытаний. И хотя с тех пор психометрия значительно продвинулась — например, подход Реймонда Каттелла (Raymond Cattell) различает «подвижный» и «кристаллизованный» виды умственных способностей, Gf (от fluid) и Gc (crystallized), — g-фактор по-прежнему служит основой для количественной оценки человеческого интеллекта в тестах IQ и подобных им, имеющих практическое применение. Особенно это важно для работодателей: как свидетельствуют научные работы, люди с более высокими показателями интеллекта лучше справляются с задачами, поскольку быстрее обрабатывают данные и эффективнее комбинируют разноплановые идеи, создавая в процессе их синтеза новые практические решения.

 В начале 1996 г. компьютер IBM Deep Blue вошёл в историю шахмат, уверенно победив тогдашнего человеческого действующего чемпиона мира по классическим турнирным правилам — и с тех пор шахматная корона к Homo sapiens уже не возвращалась (источник: IBM)
Поделиться:

0 Комментариев

Оставить комментарий

Обязательные поля помечены *
Ваш комментарий *
Категории
Популярные новости