Печëт знатно

Нейросети не отрицают существование «свиных крылышек» и предлагают рецепт их приготовления. Глава бизнес-группы поисковых сервисов и ИИ «Яндекса» говорит, что такие «галлюцинации» устраняются, но полностью их избежать не получится

Проблемы с неточными ответами и «выдумками» нейросетей существуют, но каждый год они кратно сокращаются, заявил в интервью Радио РБК руководитель бизнес-группы поисковых сервисов и искусственного интеллекта «Яндекса» Дмитрий Масюк.

Так он прокомментировал приведенный пример с вопросом к «Алисе» и другим нейросетям о «свиных крылышках». ИИ прямо не отрицает, что они существуют, и приводит рецепты их приготовления. По словам Масюка, стопроцентного отсутствия таких «галлюцинаций» не получится добиться никогда.

«Про «свиные крылышки» я только что посмотрел. «Алиса» ссылается на существующий источник. На самом деле в интернете, буквально, [есть] статьи, которые описывают такие рецепты. Это ее не извиняет в том смысле, что она могла бы говорить, что это абсурд, но, тем не менее, действительно, она ссылается на существующие источники, не выдумывает это сама», — отметил он.

Существуют механизмы дообучения, когда нейросеть «наказывают» за «придумки» и мотивируют ее «быть гораздо ближе к источникам». Масюк также рассказал, что обучение ИИ проходит в три этапа:

На первом берется «более-менее весь интернет, очищенный от заведомо каких-то бессмысленных вещей» — это десятки терабайтов данных. На втором этапе нейросети дают сотни тысяч вопросов и ответов, написанных редакторами. Так она учится поведению, «что следует комментировать, что не следует комментировать». Третий этап, по словам Масюка, «самый хитрый». «Мы делаем отдельную нейросеть, которая оценивает ответы основной. И следом, соответственно, нейросеть работает, работает, работает, работает, а в это время ее оценивает та самая отдельная нейросеть-судья, скажем так», — пояснил он. Несмотря на работу по дообучению ИИ, «Яндекс» по своим замерам не видит, что недочёты нейросетей являются чувствительными непосредственно для пользователей. Масюк согласился с мыслью, что люди хотят одновременно и живого общения с некоей фантазией у ИИ, и при этом, чтобы были четкие факты.