שירות AI OpenScale, שחברת יבמ תשיק בהמשך השנה ללקוחות IBM Cloud ו- Cloud Private, פועלת באמצעות לוחות מחוונים מקוונים ותומכת במודלים של AI שפותחו על מספר מסגרות קוד פתוח, כולל TensorFlow של Google, AzureML של מיקרוסופט, SparkML, Keras, Seldon ו- Amazon Web שירותי SageMaker. בנוסף, הוא מאפשר את הפריסה של מודלים אלה בסביבות כגון ווטסון של IBM, סלדון, ופלטפורמות אחרות של צד שלישי.
זה רק קצה הקרחון. AI OpenScale מציעה חבילה של כלים לאיתור והפחתת הטיה אוטונומית, כולל מערכת רישום המתעד תחזיות שבוצעו על ידי מודלים של לימוד מכונה, יחד עם גרסת המודל המתאימה, נתוני האימונים שנעשה בהם שימוש וערכי הביצועים הקשורים. הוא עוקב ללא הרף אחר קבלת החלטות מקדימות ביישומי AI, ובאמצעות טכנולוגיה "de-biasing", עושה מאמץ לצמצם אותה תוך מתן הסברים להמלצות שאלגוריתמי AI נותנים.
בדרך זו, AI OpenScale בונה על עבודתה הקודמת של יבמ בזיהוי טיה של AI והסבריות. בחודש ספטמבר, החברה השיקה ערכת כלים קוד פתוח - ערכת ה- AI Fairness 360 - המכילה ספריה של אלגוריתמים, קוד ומדריכים המדגימים דרכים ליישם את גילוי הטיה במודלים. ובטבלה לבנה זו הציעו חוקרי יבמ "דפי מידע" למערכות AI שיענו על שאלות בנוגע לפעולת המערכת, נתוני אימונים, הגדרות בדיקה, תוצאות, מתודולוגיות בדיקה ועוד.