Об этом сообщили ТАСС в пресс -службе Сбера.
«Для повышения надежности работы моделей мы представили библиотеку SIRIN, которая анализирует обоснованность их ответов. Этот подход уже показал свою эффективность внутри компании в сервисах для работы с клиентами. Мы приняли решение открыть SIRIN для всех компаний, чтобы способствовать развитию рынка. Библиотека доступна всем желающим для использования в своих проектах», — приводятся в сообщении слова старшего управляющего директора, директора по AI-трансформации Сбербанка Сергея Рябова.
Подчеркивается, что решение объединяет различные методы проверки ответов языковых моделей, позволяя разработчикам сравнивать их, комбинировать и выбирать наиболее подходящий вариант для конкретной задачи.
Инструмент, как отметили в пресс-службе, способен анализировать как ответ модели целиком, так и отдельные фрагменты текста, указывая участки, в которых могут содержаться ошибки или неподтвержденные сведения. Кроме того, SIRIN позволяет заранее оценить, достаточно ли у ИИ-агента информации для подготовки ответа. Такой подход дает возможность не только выявлять ошибки, но и предотвращать их, например, запрашивая дополнительные данные или отказываясь от формирования неподтвержденного ответа.
«В основе библиотеки лежат исследования Сбера в области детекции галлюцинаций. В частности, ученые из команды исполнительного директора по исследованию данных Центра практического ИИ Сбербанка Максима Макаренко разработали метамодели, которые позволяют повысить точность обнаружения ошибок почти на 30%, используя для обучения всего 250 примеров», — говорится в сообщении.