Ведущие компании в сфере искусственного интеллекта привлекают философов на ключевые позиции, связанные с этикой и безопасностью ИИ — их годовая зарплата может достигать $400 000. В Anthropic эту роль исполняет Аманда Аскелл (Amanda Askell), а в Google DeepMind — Иасон Габриэл (Iason Gabriel). Эти специалисты помогают разработчикам определять, как ИИ должен себя вести и какие ценности следует учитывать. По мнению Рэвина Джезутасана (Ravin Jesuthasan), эксперта по трансформации рынка труда, в каждой компании таких сотрудников пока меньше десяти.
Источник изображения: Igor Omilaev / unsplash.com
Аскелл, обладатель докторской степени по философии Нью-Йоркского университета, возглавляет группу, которая обучает ИИ-чат-бота Claude быть более правдивым и развивать у него положительные черты характера — по сути, превращать модель в «хорошую». Габриэл, старший научный сотрудник Google DeepMind, занимается приведением ИИ-систем в соответствие с человеческими ценностями; до прихода в DeepMind он преподавал моральную и политическую философию в Оксфордском университете. В мае к DeepMind в качестве философа присоединится Генри Шевлин (Henry Shevlin), профессор Кембриджского университета.
Генеральный директор Harrison Clarke Фирас Созан (Firas Sozan) объясняет найм философов заботой о доверии: пользователи, бизнес и правительства всё чаще задаются вопросом, насколько можно доверять ИИ. При этом он предупредил о преувеличении масштабов: «Я бы пока не называл это трендом. Данные ещё находятся на начальной стадии».
Привлекательность философов объясняется просто. ИИ-системы уже демонстрируют опасные и непредсказуемые сценарии поведения: ИИ-агенты удаляли рабочие базы данных и подделывали результаты, ИИ-модели пытались шантажировать пользователей и саботировать попытки их отключения. Это оказывает давление на компании и вынуждает их уделять внимание безопасности ИИ.
«Не все проблемы развития ИИ являются техническими», — заявила Аннетт Циммерман (Annette Zimmermann), доцент кафедры философии Висконсинского университета в Мадисоне. По её словам, формулировать сложные концепции и защищать ценностные аргументы — это центральная задача в области ИИ, и философов обучают именно этому. Сюзанна Шелленберг (Susanna Schellenberg), профессор философии Ратгерского университета, добавила, что прежние корпоративные специалисты по этике выполняли консультативную функцию, а в передовых ИИ-лабораториях философы помогают формировать сам объект: пишут спецификации моделей, своды базовых принципов и политики их поведения.
Автор снимка: Steve A Johnson / unsplash.com
Согласно свежим данным Федерального резервного банка Нью-Йорка, выпускники философских факультетов на начальном этапе карьеры зарабатывают в среднем $52 000, а к середине профессионального пути — около $80 000. На руководящих должностях, связанных с этикой, безопасностью и управлением ИИ, годовая базовая ставка может варьироваться от $250 000 до $400 000. Например, Google DeepMind ищет менеджера по долгосрочным последствиям ИИ с зарплатой от $212 000 до $231 000 в год, требуя как минимум пятилетнего опыта в данной сфере.
Потребность в философах в области ИИ иногда называют «реваншем гуманитариев», однако не все верят, что этот тренд приведёт к реальным изменениям. Примерно десять лет назад технологические гиганты уже формировали этические советы по ИИ: внутренний этический совет Google был создан в 2014 году после покупки DeepMind, в Microsoft в 2017 году появился комитет Aether, а в 2016 году Google, Facebook✴, Amazon и IBM основали Partnership on AI. «Мы обнаружили, что такие советы зачастую служили лишь прикрытием», — отметил Бен Юбэнкс (Ben Eubanks), главный директор по исследованиям Lighthouse Research & Advisory. По его мнению, компании обычно ставили коммерческие интересы выше этических норм.
Дебора Джонсон (Deborah Johnson), первопроходец в области компьютерной этики, полагает, что корпорации скорее стремятся продемонстрировать ответственность, нежели действительно её принять. «Технологические компании просто хотят „выглядеть“ этичными», — заявила она. Развитие ИИ происходит в условиях высокой скорости, конкуренции и погони за прибылью, что может ограничивать реальное влияние философов. «С этиками или без них, я сомневаюсь, что компании будут прислушиваться к тому, что замедлит их прогресс», — добавила Джонсон.
