Финтех-компания Saturn протестировала 18 популярных моделей искусственного интеллекта на реальных кейсах. На сложных финансовых вопросах виртуальные консультанты посыпались: доля ошибок у них подскочила сразу до 88%.
Всего алгоритмам задали свыше 10 000 вопросов. Точные рекомендации чат-боты смогли дать лишь в 43% ситуаций.
Платные версии сервисов ошибались реже, но всё равно путали факты в 49% ответов.
Бесплатные аналоги завалили 63% базовых запросов, а на трудных темах промахивались почти всегда.
Фантазии алгоритмов несут прямой риск для кошелька:
- Промах Claude Haiku в налоговых вычислениях мог привести к штрафу на £17 500.
- Бот Gemini уверял заемщика, будто ипотечные каникулы никак не отразятся на его кредитном рейтинге.
- Некоторые модели рекомендовали гасить кредитные карты раньше оплаты аренды жилья.
При этом около 26% людей уже доверяют ботам управление личным бюджетом.
Юридической защиты у таких советов пока нет: взыскать убытки с разработчиков за финансовую галлюцинацию бота не выйдет.
Британский регулятор FCA уже изучает риски и готовит первые правила для генеративных подсказок.
Что это значит
Доверять нейросетям расчет налогов и взносов пока нельзя, иначе платить за выдуманные ботом цифры придется из своего кармана.
