Anthropic заявила о блокировке связанных аккаунтов
Компания Anthropic сообщила об отключении ряда учетных записей, которые, согласно ее внутренней проверке, могли иметь отношение к российским государственным медиаресурсам РИА Новости, RT и Sputnik.
Решение принято в рамках политики платформы по противодействию координированным информационным операциям и злоупотреблению сервисами искусственного интеллекта.
В Anthropic не уточнили полный список заблокированных пользователей, однако подчеркнули, что ограничения стали результатом анализа выявленных связей.
Причины ограничений
По данным компании, аккаунты могли использовать инструменты Anthropic для подготовки, переработки или распространения информационных материалов.
Речь идет не обязательно об одной конкретной схеме: подобные действия могут включать создание текстов, перевод публикаций, автоматизацию контента и его последующее продвижение в интернете. В Anthropic отмечают, что подобные меры направлены не против обычных пользователей, а против организованной деятельности, способной искусственно влиять на общественную дискуссию.
При этом компания не раскрыла технические детали расследования и критерии, по которым определяла связь между аккаунтами и медиаструктурами.
Почему технологические компании усиливают контроль
Разработчики ИИ-сервисов всё чаще сталкиваются с риском использования своих платформ в политических и информационных кампаниях. Возможности генеративных моделей позволяют быстро создавать большие объемы материалов на разных языках, адаптировать их под различные аудитории и распространять через множество каналов.
Из-за этого компании стремятся отслеживать не только содержание запросов, но и характер поведения пользователей.
В поле внимания могут попадать массовая регистрация аккаунтов, синхронная работа учетных записей, повторяющиеся сценарии использования и попытки обойти установленные ограничения.
Баланс между безопасностью и прозрачностью
Блокировка аккаунтов остается чувствительным вопросом, поскольку пользователи и организации должны понимать, по каким правилам принимаются подобные решения. Недостаток подробной информации может вызывать споры о справедливости ограничений и затруднять независимую оценку действий платформы.
С другой стороны, раскрытие всех методов обнаружения подозрительной активности способно помочь нарушителям обходить системы защиты. Поэтому технологические компании обычно публикуют лишь общие сведения, сохраняя конкретные детали расследований в закрытом режиме.
Что это означает для рынка ИИ
Случай с аккаунтами, которые Anthropic связала с РИА Новости, RT и Sputnik, показывает, что борьба с манипулятивным использованием искусственного интеллекта становится отдельным направлением политики крупных разработчиков.
Платформы стремятся заранее предотвращать сценарии, при которых их технологии применяются для масштабного производства и распространения контента.
Вероятно, в дальнейшем пользователям придется внимательнее соблюдать правила сервисов, а самим компаниям - совершенствовать процедуры проверки.
Одновременно возрастет значение прозрачной отчетности: общество будет ожидать от разработчиков объяснений о том, какие угрозы они выявляют и каким образом защищают свои системы от злоупотреблений.
Об авторе
