مدل‌های هوش مصنوعی با وجود توانایی‌های بی‌نظیر، نگرانی‌های امنیتی ایجاد می‌کنند. مطالعه اخیر Enkrypt AI نشان می‌دهد که چگونه می‌توان از مدل‌های پیچیده سوء استفاده کرد و محتوای مضر تولید کرد، اگر اقدامات ایمنی مداوم وجود نداشته باشد.
تحقیقات جدید نشان می‌دهد مدل‌های Mistral AI دارای نقص‌های ایمنی هستند و محتوای خطرناک تولید می‌کنند. این شامل CSAM و دستورالعمل ساخت سلاح‌های شیمیایی است که نگران‌کننده است.
اکنون Pixtral 12B، یک مدل زبان بینایی ۱۲ میلیارد پارامتری پیشرفته از Mistral AI، در Amazon Bedrock Marketplace در دسترس است. این مدل قدرتمند در وظایف متنی و چندوجهی برتری دارد و به توسعه‌دهندگان امکان می‌دهد تا برنامه‌های کاربردی بینایی‌محور بسازند.
