Калифорния готовит требования по «выключению» ИИ-моделей
Губернатор Калифорнии Гэвин Ньюсом подписал указ о разработке мер надзора за ИИ, включая возможное требование об аварийном отключении передовых моделей.
- Гэвин Ньюсом подписал указ о усилении надзора за ИИ в Калифорнии
- Группа экспертов за два месяца предложит поправки в законодательство штата
- Среди идей — обязательные аудиты и «выключатель» для передовых моделей
Губернатор Калифорнии Гэвин Ньюсом подписал указ, который должен закрепить за штатом роль лидера в регулировании ИИ, сообщает The Verge. Документ поручает властям штата собрать группу экспертов, которая в течение двух месяцев подготовит рекомендации по усилению мер безопасности в законодательстве Калифорнии.
Среди направлений, которые предстоит проработать группе, — обязательное присутствие независимых проверяющих на площадках ИИ-компаний для регулярных аудитов. Кроме того, предлагается распространить на отчёты о прозрачности и оценки рисков требования независимых аудиторов.
Ещё одна обсуждаемая мера — создание механизма аварийного отключения для передовых моделей, так называемого kill switch. Это позволило бы штату принудительно останавливать работу систем при выявлении угроз.
Указ носит рамочный характер: сначала эксперты должны оценить, как именно эти требования можно закрепить в законе, и лишь затем власти решат, какие из них станут обязательными.
Калифорнийский указ — сигнал для всей отрасли: компании, работающие с ИИ на рынке США, могут столкнуться с обязательными независимыми аудитами и требованиями к раскрытию информации. Российским разработчикам и владельцам сайтов, использующим зарубежные ИИ-сервисы, стоит заранее оценить, как новые правила отразятся на доступности и условиях работы этих сервисов.
Пока конкретных требований нет — только рекомендации экспертов. Спешить с перестройкой процессов не нужно, но стоит следить за тем, какие из предложений превратятся в закон: именно они зададут стандарт для рынка.
Оригинал публикации: www.theverge.com. Разбор и выводы — редакции «SEO-зоны».