https://docs.cloud.google.com/vertex-ai/generative-ai/docs/multimodal/configure-safety-filters

Потратил хренову гору времени пытаясь решить проблему Gemini. Дело в том, что Гугл захардкодили в него неотключаемую защиту от опасных слов типа “ЛГБТ” и “изнасилование”. Если они попадутся в тексте почти в любом контексте - Gemini просто вернёт ошибку и забьёт на запрос. Как вы понимаете, это ломает идею модерации через ИИ.

Пришлось городить дикую структуру чтобы обойти эти ограничения, а также переехать с модели 2.5 Flash на 3.1 Flash Lite, которая с этим худо-бедно справляется. На практике это значит, что с сегодняшнего дня у нас совершенно новый движок у Душнилы, последствия совершенно непредсказуемы - может он от этого станет лучше, а может станет как обычно.

Логика в этом ограничении понятна - я же могу не для модерации вредного контента использовать ИИ, а для генерации. Потом будут судебные иски, всякие дурачки будут рассказывать как ИИ предложил им выпить керосина, зачем оно надо доброй крупной корпорации? Ну будем пока городить костыли чтобы работало, а дальше посмотрим.