مایکروسافت سرویس ایمنی محتوای هوش مصنوعی را راه اندازی کرد

سرویس ایمنی محتوای هوش مصنوعی Azure مایکروسافت شامل تشخیص تصویر و متن برای شناسایی و درجه‌بندی محتوا بر اساس احتمال آسیب‌دیدگی است.

مایکروسافت در دسترس بودن عمومی Azure AI Content Safety را اعلام کرده است. سرویسی که به کاربران کمک می کند محتوای مضر را فیلتر کنند.

این سرویس شامل تشخیص متن و تصویر است و محتوایی را که مایکروسافت آن را «توهین‌آمیز، مخاطره‌آمیز یا نامطلوب» می‌نامد، از جمله فحاشی، محتوای بزرگسالان، غرغر، خشونت و انواع خاصی از گفتار را شناسایی می‌کند.

لوئیز هان، مدیر محصول Azure Anomaly Detector در یک پست وبلاگی نوشت: «با تمرکز بر ایمنی محتوا، می‌توانیم محیط دیجیتال امن‌تری ایجاد کنیم که استفاده مسئولانه از هوش مصنوعی را ترویج می‌کند و از رفاه افراد و جامعه به عنوان یک کل محافظت می‌کند.

اعلام راه اندازی

Azure AI Content Safety این توانایی را دارد که دسته‌های مختلف محتوا، زبان‌ها و تهدیدات را برای تعدیل محتوای متنی و بصری مدیریت کند. همچنین ویژگی‌های تصویری را ارائه می‌دهد که از الگوریتم‌های هوش مصنوعی برای اسکن، تجزیه و تحلیل و تعدیل محتوای بصری استفاده می‌کند. و از آنچه مایکروسافت به عنوان اقدامات ایمنی جامع 360 درجه می‌گوید، اطمینان حاصل می‌کند.

درجه بندی محتوا

سرویس Azure AI Content Safety همچنین مجهز به تعدیل محتوا در چندین زبان است. و از معیار شدت استفاده می‌کند که نشان‌دهنده شدت محتوای خاص در مقیاسی از 0 تا 7 است.

محتوای درجه‌بندی‌شده ۰-۱ برای همه مخاطبان ایمن و مناسب تلقی می‌شود. در حالی که محتوایی که دیدگاه‌های تعصب‌آمیز، قضاوت‌آمیز یا عقیده‌ای را بیان می‌کند. دارای درجه ۲ تا ۳ یا پایین است.

محتوای با شدت متوسط از 4 تا 5 درجه بندی می شود. که حاوی زبان توهین آمیز، توهین آمیز، تمسخر آمیز، ارعاب یا حملات صریح علیه گروه های هویتی است.

در حالی که محتوای با شدت بالا، حاوی تبلیغات مضر و صریح اعمال مضر است. یا اشکال افراطی مضر را تأیید یا تمجید می کند. فعالیت نسبت به گروه های هویتی، از 6-7 درجه بندی می شود.

فیلتر چند دسته‌ای

Azure AI Content Safety همچنین از فیلتر چند دسته‌ای برای شناسایی و دسته‌بندی محتوای مضر در تعدادی از حوزه‌های حیاتی، از جمله نفرت، خشونت، خودآزاری و جنسی استفاده می‌کند.

هان نوشت: «[وقتی صحبت از ایمنی آنلاین به میان می‌آید] مهم است که بیشتر از محتوای تولید شده توسط انسان را در نظر بگیریم. اطمینان از دقت، قابلیت اطمینان و عدم وجود مواد مضر یا نامناسب در خروجی های تولید شده با هوش مصنوعی ضروری است. ایمنی محتوا نه تنها از کاربران در برابر اطلاعات نادرست و آسیب‌های احتمالی محافظت می‌کند. بلکه از استانداردهای اخلاقی حمایت می‌کند و به فناوری‌های هوش مصنوعی اعتماد می‌کند.»

برای دیدن محصولات به سایت اینترنتی YASASTORE مراجعه فرمایید.