Эксперт предложила разделить рабочие задачи на три категории. Как пояснила Лисовская, к «зеленой» зоне относятся операции, ошибки в которых не приведут к серьезным последствиям, например, подготовка черновика или сортировка материалов. В «желтой» зоне искусственный интеллект формирует результат, однако его обязательная проверка осуществляется сотрудником.
«В “красной” модели нельзя позволять принимать окончательное решение — сюда входят назначение компенсации клиенту, медицинская диагностика, юридическая консультация и проектирование зданий. Доверие к ИИ — не философская категория, а практическая конструкция. Важно понимать, какие данные получила система, что ей разрешено делать, как проверяется результат и кто отвечает за последствия. Польза и риски такой работы подтверждаются экспериментом с участием 758 консультантов Boston Consulting Group. При решении сложного кейса, выходящего за границы возможностей модели, использование ИИ снизило вероятность правильного ответа на 19 процентных пунктов», — заявила Лисовская.
По словам эксперта, ошибочные выводы в таких случаях могли выглядеть убедительно и логично, из-за чего сотрудники проявляли к ним излишнее доверие.
Лисовская также отметила, что обучения только работе с запросами недостаточно. Для компаний необходимы критерии проверки ответов, ограничения на действия ИИ, журнал операций и возможность остановки автоматизированного процесса. Кроме того, сотрудники должны знать, когда результаты работы модели требуется сверять с первоисточниками, подытожила эксперт.