В современном мире вопросы безопасности, связанные с применением искусственного интеллекта, обсуждаются весьма активно. Чат-боты способны затрагивать в диалогах темы, которые в обществе обычно считаются неподходящими, например, для детской аудитории, что делает жёсткий надзор за развитием таких технологий совершенно необходимым. В компании OpenAI недавно была введена новая руководящая должность, специалист которой будет курировать создание безопасных систем ИИ.
Источник изображения: Unsplash, Hafiz ta
Согласно информации The Wall Street Journal, на эту позицию был назначен бывший сотрудник конкурирующей фирмы Anthropic — Дилан Скандинаро (Dylan Scandinaro), уже имеющий опыт в аналогичной сфере. О его назначении «директором по готовности» (Head of Preparedness) на этой неделе в социальной сети X объявил генеральный директор OpenAI Сэм Альтман (Sam Altman). Он также добавил: «События вскоре начнут развиваться стремительно, и мы сосредоточимся на разработке чрезвычайно мощных моделей. Это потребует принятия особых мер предосторожности, чтобы гарантировать сохранение значительных преимуществ для общества».
Как заявил Альтман, Дилан Скандинаро возглавит работу OpenAI по подготовке к нейтрализации подобных серьёзных угроз. Глава компании отметил, что Скандинаро — лучший специалист для этой задачи из всех, кого он встречал. «Ему, безусловно, предстоит много труда, но сегодня я смогу спать немного спокойнее», — признался Альтман. Он выразил надежду на тесное сотрудничество со Скандинаро в процессе внедрения изменений, которые затронут всю организацию. Сам Скандинаро подчеркнул, что быстро прогрессирующие модели ИИ способны привести к «масштабному, а порой и необратимому ущербу». По его словам, впереди — огромный объём задач, которые необходимо решить в сжатые сроки.
В компании Anthropic Скандинаро трудился с мая предыдущего года по февраль нынешнего. В DeepMind, дочернем предприятии корпорации Google, он проработал гораздо дольше — с сентября 2022 по май 2025 года, фокусируясь на создании синтетических данных для обучения ИИ-помощника Gemini. В его профессиональном багаже также есть опыт в Palantir, Unity Technologies и Everyday Robots. Открытая в OpenAI вакансия на аналогичную позицию существовала с прошлого года и предполагала годовое денежное вознаграждение в размере $550 000, а также пакет акций компании. Подразделение «готовности» внутри OpenAI было сформировано в 2023 году; первоначально его возглавлял Александр Мадрий (Aleksander Madry), ранее работавший в Центре распределённого машинного обучения Массачусетского технологического института. Впоследствии он перешёл на иную роль внутри OpenAI, и руководящая должность в этом подразделении стала вакантной.
