Эксперты в области искусственного интеллекта предупреждают, что Canada Revenue Agency (CRA) рискованно полагаться на ИИ для помощи канадцам с налоговыми вопросами, учитывая, что сотрудники кол-центра уже продемонстрировали трудности с предоставлением корректной информации.

Во вторник федеральный аудитор-генерал Карен Хоган опубликовала жёсткий отчёт, в котором установлено, что CRA не только отвечает на небольшую часть входящих звонков, но и когда оператор всё же берёт трубку, корректный ответ по вопросам личного подоходного налога даётся живым агентом менее чем одному из пяти звонящих.

Хоган также установила, что чат-бот Чарли предоставлял правильную информацию примерно в одной трети случаев.

В отличие от генеративного ИИ, который создаёт новые ответы на основе заданных вопросов, Чарли выдаёт ответы из заранее подготовленных алгоритмов, помогая с часто задаваемыми и простыми запросами.

CRA также тестирует генеративную версию и расширяет использование чат-ботов, увеличивая часы их работы и расширяя перечень вопросов, на которые они могут отвечать.

Анатолий Грузд, руководитель отдела исследований в области цифровых технологий, обеспечивающих конфиденциальность в Канаде, заявил, что CRA необходимо наладить отношения с людьми, прежде чем полагаться на ИИ.

«Если вы государственный агент и запускаете чат-бот, вы должны убедиться, что процесс отлажен с участием живого агента», — сказал он.
Он пояснил, что чат-боты зависят от точных данных, предоставляемых людьми.

«Я думаю, что важно вернуться к основам и разобраться, почему живые агенты дают неправильные ответы, прежде чем запускать какие-то крупные ИИ-инициативы», — добавил он.

Адегбойега Оджо, профессор Карлтонского университета, специализирующийся на управлении с помощью искусственного интеллекта, заявил, что технологию можно использовать более эффективно, если ее разрабатывать тщательно.

Оджо изучает технические механизмы безопасного и полезного использования ИИ в государственном секторе и считает, что CRA следует применять смешанную модель «человек–ИИ». Это позволило бы машинам отвечать на часто задаваемые вопросы, а более сложные и тонкие запросы направлять специалистам.

«Независимо от того, говорим ли мы об ИИ или нет, если вы госслужащий, вы должны быть хорошо подготовлены», — сказал Оджо. «Но когда задачи сложные и требуют большой когнитивной нагрузки — запоминания и знания правил — здесь нужна машина».

Oн отмечает, что ИИ может снизить нагрузку на сотрудников CRA при большом объёме звонков, но при этом подчеркнул, что человеческие работники остаются незаменимыми и не должны быть полностью вытеснены.

«Даже самые продвинутые чат-боты и агенты сегодня, которые могут помогать в планировании и ускорять процессы, всё равно иногда ошибаются, потому что теряют контекст», — сказал Оджо. «Я считаю, что идеальный способ внедрения ИИ — это всегда иметь человеческий надзор, и именно здесь возникает ответственность».

Подписывайтесь на наш Telegram-канал, чтобы всегда оставаться в курсе событий.