OpenAI нанимает подрядчиков для оценки ИИ, но те используют ChatGPT
По данным 404 Media, OpenAI привлекает сторонних подрядчиков для разметки и оценки ответов ИИ, и часть из них выполняет задания с помощью самого ChatGPT.
- OpenAI, как и Google, держит штат подрядчиков для оценки качества ответов ИИ.
- По данным 404 Media, часть таких специалистов выполняет задания с помощью ChatGPT.
- Это ставит под сомнение достоверность данных, на которых обучают и проверяют модели.
Как сообщает 404 Media, у OpenAI есть армия подрядчиков — специалистов по обучению и оценке ИИ, аналогичная армии оценщиков качества Google. Последние, напомним, помогают тестировать и улучшать поисковую выдачу и ответы ИИ-сервисов. По данным издания, некоторые из этих подрядчиков выполняют свои задания с помощью ChatGPT.
Речь идёт о людях, которые по заказу OpenAI размечают данные, проверяют ответы модели и оценивают их качество. Именно на их суждениях строится дообучение и настройка систем. Если же часть работы делается автоматически тем же инструментом, который предстоит оценивать, ценность такой обратной связи резко падает.
Проблема не нова: похожие истории уже случались у подрядчиков, работающих на крупные технологические компании. Однако для OpenAI ситуация чувствительна, поскольку речь идёт о самом качестве ИИ-ответов, за которое компания отвечает перед пользователями.
Для российских команд, которые заказывают разметку и оценку ИИ-моделей у внешних исполнителей, это повод усилить контроль. Если исполнитель использует тот же ИИ для проверки ИИ, вы получаете не экспертную оценку, а зеркало модели, и на таких данных можно закрепить её ошибки.
Владельцам сайтов и SEO-специалистам, которые всё чаще оптимизируют контент под ИИ-ответы, тоже стоит учитывать: качество обучающих данных у ключевых игроков рынка не гарантировано. Полагаться только на ИИ-советы без независимой проверки — рискованно.
Оригинал публикации: www.seroundtable.com. Разбор и выводы — редакции «SEO-зоны».