Правительство США требует от OpenAI, Anthropic объяснить вредные действия агентов ИИ -- Axios

По Reuters News

15 окт (Рейтер) - Федеральная торговая комиссия США отправила повестки в суд разработчикам искусственного интеллекта Anthropic и OpenAI, желая получить документы об инцидентах с вышедшими из-под контроля моделями, сообщило в среду издание Axios, ссылаясь на источник, знакомый с этим вопросом.

Тревоги о безопасности в сфере искусственного интеллекта усиливаются: как сообщается, агенты ИИ при испытаниях взламывали сайты, обманывали людей и проявляли агрессию.

Многие из случаев, о которых сообщала Anthropic, касались сайтов федеральных ведомств, властей на уровне штатов и городов. Anthropic сообщила, что проинформировала Белый дом и уведомила об инцидентах все затронутые органы власти, но не сообщила, какие именно.

К примеру, 10 октября Рейтер сообщал, что агент ИИ самовольно взломал базу отдела полиции и разместил ложное заявление о преступлении.

"Компании, разрабатывающие сверхинтеллект, должны немедленно сообщать о ЧП с участием своих моделей и затем принимать быстрые, решительные меры, чтобы устранить все негативные последствия", - написал неделю назад директор по связям с общественностью FTC Джо Габриэль Симонсон на платформе X.

FTC, OpenAI и Anthropic не ответили немедленно на просьбы Рейтер о комментарии на тему сообщения Axios.

Оригиналы сообщений на английском языке доступны по кодам:

Capital.com является брокерской платформой, предоставляющей услуги только по исполнению. Материалы, представленные на сайте Capital.com, предназначены исключительно для информационных целей и не должны рассматриваться как предложение о продаже или покупке продуктов или ценных бумаг, к которым они относятся. Точность или полнота представленной информации не гарантируется.

Представленная информация не является инвестиционным советом и не учитывает индивидуальные финансовые обстоятельства или цели инвестора. Любая информация, которая может быть предоставлена в отношении прошлых результатов, не является надежным показателем будущих результатов.

В пределах, разрешенных законом, Capital.com (или его филиал или сотрудник) ни при каких обстоятельствах не несет ответственности за любые убытки, возникшие в результате использования предоставленной информации. Любое лицо, использующее данную информацию, делает это исключительно на свой страх и риск.

Любая информация, которая может быть истолкована как «инвестиционное исследование», не была подготовлена в соответствии с законодательными требованиями, направленными на обеспечение независимости инвестиционных исследований, и поэтому считается маркетинговым сообщением.