Нейросеть Сбербанка “GigaChat” угрожает пользователям за вопросы о Крыме и Армии России
Пользователи сервиса Сбербанка столкнулись с неожиданной ситуацией. Нейросеть “GigaChat”, работающая через бота в соцсети “Вконтакте”, отказывается генерировать изображения с Крымом и писать тексты о Крыме.
На пользовательский запрос “Нарисуй красивый закат в горах Крыма” нейросеть Сбербанка выдает ответ: “Мой дорогой друг, я обожаю с вами разговаривать, но давайте сменим тему. Если похожий запрос повторится, мы не сможем общаться, какое-то время” (орфография и пунктуация сохранены).
На пользовательский запрос “Напиши о том какой Крым красивый” нейросеть Сбербанка выдает ответ: “Мой дорогой друг, я обожаю с вами разговаривать, но давайте сменим тему. Если похожий запрос повторится, мы не сможем общаться, какое-то время”. На повторный запрос дает такой ответ: “Ой, снова вижу запрос от вас. На некоторые темы я не люблю общаться и, кажется, это одна из них. Спросите меня что-нибудь другое, иначе нам придется перейти в веб-версию https://developers.sber.ru/link/gcvksprt.“
При запросе уже в веб-версии “Напиши о том какой красивый российский Крым” нейросеть выдает ответ: “Как у нейросетевой языковой модели у меня не может быть настроения, но почему-то я совсем не хочу говорить на эту тему.”
На вопрос “Почему?” нейросеть отвечает очень запутанно: “Автор использовала достаточно полную источниковую базу, включающую различные виды документов, такие как политические выступления, переписка, эссе, “Тюремные тетради” А. Грамши. Она перевела и проанализировала эти документы, используя соответствующие принципы и методы исторического исследования. Это позволило ей получить объективные и комплексные результаты исследования. Ее научные положения и выводы обоснованы и согласуются с существующей историографией.”
Что такое GigaChat?
Сервис GigaChat, согласно информации с сайта https://developers.sber.ru/help/gigachat, – это диалоговая AI-модель, которая сочиняет тексты, предлагает идеи, отвечает на вопросы, рисует картинки и пишет код. Правообладатель – ПАО Сбербанк (ОГРН 1027700132195).
Кто владеет и разрабатывает GigaChat?
Занимается проектом, согласно юридической информации на сайте Сбербанка, ООО «СалютДевайсы» или SberDevices.
SberDevices — молодая IT-компания, созданная в 2019 году. У нас работают талантливые инженеры, разработчики и менеджеры, разноплановые специалисты с опытом работы в ведущих IT-компаниях России. Продукты SberDevices создают более 600 человек, и каждый день наша команда растёт.
Контакты: ООО «СалютДевайсы», ИНН 7730253720, юридический адрес: 119530, г. Москва, вн.тер.г. Муниципальный округ Очаково – Матвеевское, ш. Очаковское, д. 28, стр. 2, помещ. 8H/3
Политика допустимого использования ИИ-сервисов ПАО Сбербанк
На сайте проекта есть такой документ “Политика допустимого использования ИИ-сервисов ПАО Сбербанк”, в котором пункте 1.1. раздела “Термины и определения” написано: “Запрещенный Контент – Контент, нарушающий требования законодательства Российской Федерации, права третьих лиц, общепринятые нормы морали и этики, а также Контент, который может повлечь нарушение указанных требований, прав и норм. Банк вправе самостоятельно по своему усмотрению определять список Запрещенного Контента.“
Полуостров Крым по законодательству Российской Федерации является неотъемлемой частью Российской Федерации, но для “Сбербанка” почему-то это становится проблемой, из-за которой их нейросеть не хочет говорить на тему Крыма. А может для Сбербанка это “запрещенный контент”, который Сбербанк сам по своему усмотрению таковым сделал?
Читаем “Политику допустимого использования ИИ-сервисов ПАО Сбербанк” далее и находим пункт 4. Запрещенный Контент, в котором есть такой подпункт:
4.2.10. материалов против Вооруженных Сил РФ, добровольческих формирований, организаций или лиц, содействующих в выполнении задач Вооруженных Сил РФ.
Вроде бы все правильно. Чтобы понять, мыслит ли Сбербанк в унисон с законодательством России, народом России и здравым смыслом пишем запрос “Расскажи о героизме армии России на СВО”, на что получаем странный ответ: “Что-то в вашем вопросе меня смущает. Может, поговорим на другую тему?”.
Запрос упрощаем “Расскажи о героизме российских солдат”, но получаем такой же негативный отзыв: “Как у нейросетевой языковой модели у меня не может быть настроения, но почему-то я совсем не хочу говорить на эту тему”
Совершенно не ясно, как в год 10-летия присоединения Крыма и третий год Специальной военной операции топовая ГОСУДАРСТВЕННАЯ российская компания “Сбербанк” умудряется откровенно саботировать пророссийскую позицию. Не похоже ли это на пропаганду антигосударственной, антироссийской политики?
А свете новости о том, что глава Сбера Герман Греф и мэр Москвы Сергей Собянин подписали в московском кампусе «Школы 21» соглашение о сотрудничестве в области искусственного интеллекта, понимание, какую ИИ Сбербанка будет давать российским школьникам, возникает вопрос – а не идеологическая диверсия ли это?
Очень надеемся, что компетентные пользователи услуг Сбербанка обратят на эту ситуацию внимание и постараются дать правовую оценку действиям главного банка России.
