В ходе беседы с индийским предпринимателем Нихилом Каматом Илон Маск вновь высказал опасения относительно искусственного интеллекта, обозначив три фундаментальных принципа для его безопасной эволюции: правдивость, гармония и стремление к знаниям. Основатель ряда технологических компаний предупредил, что пренебрежение этими основами способно привести ИИ к формированию рискованных суждений и отрыву от действительности.
Источник изображения: Tesla
Маск, возглавляющий Tesla, SpaceX, xAI, X, Neuralink и The Boring Company, обратил внимание на то, что передовые технологии по определению несут в себе риски, особенно если их развитие не привязано к объективной картине мира. Он пояснил, что ИИ, анализируя интернет-данные, неизбежно поглощает недостоверные сведения, что может исказить его логику и спровоцировать создание абсурдных или опасных умозаключений.
В качестве примера, как сообщает CNBC, Маск привёл феномен «галлюцинаций» — ситуаций, когда системы ИИ производят ошибочную или дезинформирующую информацию, уже наблюдаемый в реальных приложениях. Так, функция Apple Intelligence на iPhone в начале 2025 года ошибочно оповестила о победе британского дартсмена Люка Литтлера в чемпионате PDC ещё до фактического завершения турнира.
Маск также отметил ценность эстетического начала и познавательного интереса, указав, что ИИ должен изучать устройство мира и перспективы человечества, а не становиться угрозой для него. Его взгляд созвучен позиции одного из пионеров ИИ Джеффри Хинтона, который ранее оценил вероятность гибели цивилизации от искусственного интеллекта в 10–20%. К ближайшим вызовам он отнёс те же «галлюцинации» и автоматизацию низкоквалифицированного труда. «Мы рассчитываем, что если достаточно компетентные специалисты, имея необходимые ресурсы, проведут масштабные изыскания, то удастся разработать такие ИИ-системы, которые не будут стремиться навредить людям», — заключил Хинтон.
