17/06/2026
הבינה המלאכותית שוב "הוזה" עובדות? חוקרים מהטכניון מצאו לזה פתרון!
מודלי שפה גדולים משנים את העולם, אבל יש להם חיסרון מוכר: לפעמים הם פשוט... ממציאים מידע. קבוצת המחקר של ד"ר חגי מרון מהפקולטה להנדסת חשמל ומחשבים ע"ש ויטרבי בטכניון, בשיתוף חברת NVIDIA, מצאה דרך יצירתית, זולה ומהירה לזהות מתי ה-AI מתחיל לטעות.
במקום לנסות לפענח את כל ה"מוח" המסובך של המודל, החוקרים פיתחו גישה ש"מסתכלת מבחוץ" על החישובים הפנימיים - ויודעת לזהות כשלים ו"הזיות" מבלי להבין את המנגנון במלואו.
למה זה כל כך חשוב?
כדי שנוכל להשתמש בבינה מלאכותית בלב שקט בתחומים קריטיים של חיים ומוות כמו רפואה, מחקר וחינוך - אנחנו חייבים מערכות התרעה שיודיעו לנו מתי המודל חורג מהשורה.
סדרת המאמרים פורצת הדרך כבר התקבלה לשלושת הכנסים המובילים בעולם ללמידת מכונה.
הפקולטה להנדסת חשמל ומחשבים ע"ש ויטרבי טכניון