Shieldstral от Mistral AI: многомодальный классификатор безопасности контента
Mistral AI выпустила многомодальный классификатор Shieldstral для проверки текста, изображений и смешанного контента. Модель позволяет гибко настраивать правила проверки через естественный язык и показывает высокие результаты в оценке безопасности. Shieldstral использует контрастное обучение и генерирует миллионы обучающих образцов.