Роль, которую избиратели должны сыграть в регулировании использования AI государством
Борьба вокруг использования AI правительством США развернулась на фоне реальной войны на Ближнем Востоке.
В пятницу Pentagon внезапно внес Anthropic, создателя популярной LLM Claude, в чёрный список после того, как компания отказалась снять ключевые ограничения на использование модели военными — в том числе для потенциального автономного оружия и масштабной массовой слежки.
Вскоре после этого конкурент OpenAI заключил сделку с правительством, заменив Anthropic и одновременно укрепив за собой репутацию компании, ориентированной на безопасность, и одного из лидеров отрасли. «Во всех наших взаимодействиях DoW демонстрировал глубокое уважение к вопросам безопасности и стремление к партнёрству ради наилучшего возможного результата», — заявил CEO OpenAI Sam Altman в X.
Проблема безопасности, говорят эксперты, заключается не только в самих моделях, но и в возможности профилировать реальных людей на основе информации, которую LLM способны анализировать: переписки с чат-ботами, поисковые запросы Google, GPS-локации, данные по кредитным картам и другим транзакциям — словом, всё. Между ненадёжным государством и сценариями, в которых оно может запускать оружие без человеческого контроля или использовать технологию для слежки и угроз в адрес американцев по произвольным причинам, прослеживается вполне очевидная связь.
«Pentagon продолжал пытаться оставлять себе небольшие лазейки в соглашениях, которые предлагал Anthropic. Он обещал не использовать AI Anthropic для массовой внутренней слежки или полностью автономных машин для убийства, но затем сопровождал эти обещания оговорками с лазейками — формулировками вроде “по мере необходимости”, — что указывало на возможность изменить условия в зависимости от того, как администрация истолкует конкретную ситуацию», — пишет Ross Andersen в Atlantic.
И хотя Anthropic на время оказался в центре позитивного внимания, ненадолго выйдя на первое место по числу загрузок приложений в США, праздновать рано, считает исследовательница и критик AI Timnit Gebru. «OpenAI и Anthropic подавались как компании “AI safety”, которые должны остановить вымышленные сверхразумные машины от уничтожения человечества, — написала она в X. — И делают они это, сотрудничая с военными и Palantir — организациями, чья работа заключается в том, чтобы убивать людей? Не ведитесь на этот спектакль».
Она не одинока в этой оценке. «Иронично, что описание сделки со стороны Anthropic — “Новый язык, поданный как компромисс, сопровождался юридическими формулировками, которые позволяли игнорировать эти меры защиты по собственному усмотрению” — это ещё и то, как я бы описала подход Anthropic к безопасности и недавний отказ от ключевых принципов», — написала Chief AI Scientist Heidy Khlaaf, PhD, эксперт по безопасности и Chief AI Scientist в AI Now Institute.
Потеря контракта с Pentagon на $200 млн — это для Anthropic немедленный удар; долгосрочные последствия могут оказаться куда серьёзнее. Президент Trump выразил угрозу предельно ясно:
«Леворадикальные психи из Anthropic совершили КАТАСТРОФИЧЕСКУЮ ОШИБКУ, пытаясь ВЫКРУТИТЬ РУКИ Department of War и заставить его подчиняться их Terms of Service вместо нашей Конституции, — написал он в Truth Social. — Поэтому я поручаю КАЖДОМУ федеральному агентству правительства Соединённых Штатов НЕМЕДЛЕННО ПРЕКРАТИТЬ любое использование технологий Anthropic. Нам это не нужно, мы этого не хотим и больше не будем вести с ними никаких дел!»
Он объявил о шестимесячном поэтапном отказе и дал понять, какого отношения ожидает. «Anthropic лучше бы взяться за ум и вести себя конструктивно в течение этого периода сворачивания, иначе я использую всю силу президентской власти, чтобы заставить их подчиниться, с серьёзными гражданскими и уголовными последствиями».
Как бы то ни было, стороны теперь обозначены предельно ясно, а потенциал злоупотребления AI со стороны государств — это неотложная проблема, говорит Frank Kendall.
Kendall, занимавший пост секретаря ВВС США с 2021 по 2025 год, считает, что попытка Anthropic согласовать условия контракта — какой бы благородной она ни была или ни казалась — была обречена с самого начала. «Нельзя ожидать, что правительство будет обсуждать положения вроде тех, которых требует Anthropic, с каждым поставщиком. Это было бы административным кошмаром и не поддавалось бы исполнению», — говорит он.
Вместо этого он призывает к регулированию со стороны Конгресса как к единственному возможному пути вперёд. «Мы регулируем большинство продуктов, которые покупаем, — от автомобилей и самолётов до бытовой техники, — говорит он. — Конгресс должен принять в рамках комплексного регулирования A.I. ограничения на наиболее опасные способы использования этих инструментов, несмотря на сильное сопротивление администрации Trump таким ограничениям».
Логично, что если вы с этим согласны, то осознанное гражданское участие сейчас важно как никогда. Откровенно говоря, я готова принять всё, что у нас есть, — марши, собрания, красные вязаные шапки, язвительные шрифты, мастеров фактчекинга, — если это поможет нам прийти к лучшим кандидатам, реальным сдержкам и противовесам и подлинному представительству.
А для этого нам нужна полная и громкая защита избирательных прав, безопасности избирателей и доступа к голосованию — и включиться должны все. «Souls to the polls» ещё никогда не были так важны, когда на кону — души всего мира.
Ellen McGirt
Главный редактор
Этот выпуск The Observatory был отредактирован Rachel Paese .
