Глава Signal Foundation: реальная угроза не сам ИИ, а его легкомысленное использование

Это перевод материала корреспондета Би-би-си. Оригинал на английском языке можно прочитать здесь.

Мередит Уиттакер скептически относится к апокалиптическим прогнозам об искусственном интеллекте, которыми пестрят заголовки новостей: она считает, что опасения по поводу того, что ИИ может восстать против человечества, «не имеют под собой научного основания».

«Риск вполне реален, — говорит Уиттакер, глава фонда Signal Foundation, разработчика одноименного приложения для обмена зашифрованными сообщениями, — но он не имеет ничего общего с теми эффектными „страшилками“, о которых рассказывают фанатики с безумным взглядом».

Она считает, что более насущную опасность представляет легкомысленное использование технологии. И приводит в пример инцидент, о котором сообщал телеканал CNN: чат-бот, используемый американской разведкой, выдумал информацию о китайском судне, якобы перевозившем ядерные материалы, что, по имеющимся данным, едва не привело к подготовке военного ответа со стороны США.

«Мы были на грани войны с Китаем», — подчеркнула она в разговоре с BBC Global Women. — Систему, которая выдает ложные разведданные и едва не втягивает нас в войну с Китаем, ни при каких критериях нельзя считать сверхразумной».

У мессенжера Signal около 40-70 миллионов пользователей. Это капля в море по сравнению с WhatsApp, у которого их миллиарды.

Однако этот сервис известен своей бескомпромиссной позицией в вопросах защиты конфиденциальности пользователей: он скрывает от собственных серверов информацию об отправителе сообщения, тем самым ограничивая объем данных, доступных сторонним наблюдателям или хакерам.

Протест против контракта Google с Минобороны США

Журнал Time включил Уиттакер в число самых влиятельных фигур в сфере искусственного интеллекта. Она бывает там, где решается будущее этой технологии: от конференц-залов в Кремниевой долине до Даунинг-стрит, Давоса и Ватикана.

В университете она изучала литературу, а в 2006 году пришла в Google на должность временного сотрудника начального уровня, не имея профильного образования в области информатики.

Широкую известность она получила в конце 2017 года, когда коллега рассказал ей о проекте Maven — секретном контракте Google с Министерством обороны США по разработке ИИ для наведения беспилотников на цели.

Она осознавала, что означает «сжатие цикла поражения цели»: сокращение времени между моментом, когда система обнаруживает и помечает цель, и моментом принятия решения об открытии огня. Это сводит к минимуму время на раздумья. Вместе с тысячами коллег она выступила против этого проекта.

«Это приведет к легитимизации плохой разведки и ошибочных данных», — вспоминает она свои публичные заявления того времени.

В следующем году Уиттакер помогла организовать массовую акцию протеста: около 20 тысяч сотрудников остановили работу в знак протеста против действий руководства компании по ряду вопросов, включая поспешное, по их мнению, внедрение новых технологий. В итоге Google отказалась от контракта, и его перехватила компания Palantir.

Она видит прямую связь между проектом Maven и нанесенным в этом году ракетным ударом США по школе в Иране. По ее словам, при этом использовалась та самая система — и устаревшие разведданные, согласно которым школа была классифицирована как военный объект.

«Именно об этом мы и предупреждали в 2017 году», — говорит она.

В ответ на это представители Palantir заявили изданию Global Women, что «нет никаких доказательств того, что причиной этой ужасной трагедии стало программное обеспечение Palantir».

Компания также добавила, что «Palantir не несет ответственности ни за исходные данные, ни за выявление ошибок в разведданных». Ранее в этом году глава британского и европейского подразделения компании Луис Мосли заявил в интервью Би-би-си: «В процесс всегда включен человек, поэтому именно человек принимает окончательное решение».

Военное ведомство США пока не обнародовало результаты расследования удара по Минабу, однако министр обороны Пит Хегсет заявил, что целью атак «никогда не становятся гражданские объекты».

«У меня есть стержень»

Правительства различных стран, в том числе Великобритании, настаивают на расширении доступа к переписке в мессенджерах, утверждая, что это необходимо для защиты женщин и детей.

На конференции London Tech Week 2026 тогдашний премьер-министр Кир Стармер заявил, что от технологических компаний будут требовать выявлять и блокировать изображения обнаженного тела на устройствах детей — в противном случае им грозит запрет.

Как сообщили Би-би-си в Министерстве науки, инноваций и технологий, ведомство готовит соответствующий законопроект.

По мнению Уиттакер, дети способны обходить запреты. Она называет подход правительства «беспрецедентным режимом контроля над коммуникацией и информацией».

Готова ли Signal уйти с рынка любой страны — включая Великобританию — если ее принудят ослабить шифрование?

«Да! Боже мой, у меня есть стержень, — говорит она. — Он не меняется в зависимости от настроения или советов консультантов».

По ее словам, если бы возникла угроза того, что люди, «которые полагаются на нас — порой в ситуациях, где решаются вопросы жизни и смерти, — окажутся под наблюдением, которое может быть использовано против них», компания «ушла бы с рынка».

Сейчас приложение полностью или частично заблокировано в России, Китае и Иране.

Рани Говендер, руководитель направления по обеспечению безопасности детей в интернете в Национальном обществе по предотвращению жестокого обращения с детьми (NSPCC), сообщила Би-би-си, что организация получает обращения от детей, ставших жертвами злоумышленников: те сначала входили к ним в доверие, а затем переводили общение на платформы с сквозным шифрованием, где принуждали создавать материалы, содержащие сцены сексуального насилия над детьми.

«Технологические компании несут ответственность за технические решения, которые они принимают, и они не могут игнорировать риски, которые эти решения создают для детей», — считает она.

В то же время Signal пользуется поддержкой ряда женских организаций — зачастую из стран Глобального Юга, где активистки сами пользуются этим приложением.

«В эпоху государственной слежки и кибератак Signal — это инструмент выживания», — говорит Гера Хуссейн, основательница благотворительной организации Chayn, которая борется с гендерным насилием и ведет активную деятельность в Южной Азии. При этом она признает: «Любой платформой могут воспользоваться и злоумышленники, и мы должны отдавать себе в этом отчет».

«Что нам делать с кухнями?»

Би-би-си напомнила Уиттакер случай из Канады: полицейские обменивались расистскими и женоненавистническими сообщениями в группе в мессенджере Signal и переписка стала достоянием общественности лишь после того, как один из участников передал ее СМИ.

Адвокат одного из полицейских заявил, что мужчины считали Signal таким же безопасным и приватным местом, как собственный дом.

Однако Уиттакер на это возражает: что, если бы мужчины разговаривали на кухне и их приятель на них «настучал»? И задает риторический вопрос: «Говорили бы тогда „что нам делать с кухнями?“»

«Или это работает для всех, или не работает ни для кого. Таков принцип основных прав. Они распространяются даже на полных мерзавцев», — убеждена Уиттакер.

Она напомнила о случае в США, когда женщину посадили в тюрьму после того, как компания Meta передала властям ее переписку: из сообщений следовало, что она помогла дочери сделать аборт в штате, где это запрещено.

По ее словам, конфиденциальность общения защищает людей от самого разнообразного вреда — будь то «муж-абьюзер, женоненавистник в полиции с доступом к базам данных или авторитарное правительство, считающее, что женщинам не нужно образование».

Что бы она сказала женщине, которая хочет работать в сфере технологий, но опасается гендерных предрассудков?

«Тебе нравится? Садишься за компьютер и чувствуешь прилив энергии? Тебе нравится играться с настройками ИИ? — она делает паузу, а потом добавляет: — Ты способна действовать в интересной, но сложной среде, где не все настроены дружелюбно? Потому что нет ничего более опасного, чем проявить трусость перед лицом того, кто тебя буллит».

Я спрашиваю, много ли буллинга в этой сфере.

Вмешивается ее коллега, напоминая, что уже два часа дня — время, когда мы договорились закончить интервью.

Мередит улыбается.

«Мой совет: не будь подлизой, — говорит она, используя сленговое слово simp. — Это не поможет. Не смейся над шуткой, если она не кажется тебе смешной».

Материал создан при участии Кэти Робертс.

Скачайте новое приложение BBC World Service!

При первом открытии приложения выберите «BBC News Русская служба» и получайте уведомления о важных новостях, аналитике, видео и подкастах.

Важно: новое приложение недоступно на территории Великобритании и США.