חברת התשלומים והטכנולוגיה Block הכריזה ביום שישי על פיתוח מודל בינה מלאכותית קולי חדש בשם Dessa, המסוגל לנהל שיחות בזמן אמת בצורה טבעית וכמעט בלתי ניתנת להבדלה מדיבור אנושי. המודל ייחודי בכך שאומן אך ורק על סמך האזנה לשיחות אנושיות, ללא התבססות על טקסטים כתובים או מודלי שפה מסורתיים. בהודעה של החברה צוין כי ככל הידוע לה, Dessa הוא מודל הבינה המלאכותית הראשון בעולם שמאפשר לקיים שיחה חיה וריאליסטית אשר אומן אך ורק מדיבור של בני אדם. ההכרזה עוררה התלהבות רבה בתעשייה, אך לצד המחמאות עלו גם חששות כבדים מפני התגברות של הונאות קוליות והתחזות בשיחות טלפון.
דיאלוג טבעי המבוסס על האזנה בלבד
תהליך האימון של המודל Dessa התבסס על למידה פסיבית והקשבה בלבד לדיאלוגים אנושיים, דבר שאיפשר למערכת ללמוד באופן עצמאי כיצד לנהל שיחה בזמן אמת. תהליך זה העניק למודל יכולת לחקות את קצב הדיבור, הנשימות, ההפסקות הקצרות והדקויות הרגשיות המאפיינות תקשורת בין בני אדם.
מייסד-שותף בחברת Block, ג'ק דורסי, התייחס לניסיון השיחה עם המודל והסביר כי הדיבור איתו מרגיש בדיוק כמו שיחה עם אדם בשר ודם, והוא מלא ברגש, בדקויות, בהפסקות ובקצב דיבור טבעי.
היכולת לייצר דיאלוג קולי זורם זכתה לשבחים רבים ברשתות החברתיות מצד משתמשים ויזמים. המשתמש אלכסנדר הוף ציין ברשת X כי מעולם לא שמע מערכת מלאכותית שנשמעת אנושית כל כך. במקביל, מייסד Binance, צ'אנגפנג ז'או, זיהה פוטנציאל רב לשילוב הטכנולוגיה בתחום החינוך והלמידה האינטראקטיבית. ז'או התייחס לפרויקט החינוכי שלו, GiggleAcademy, וציין כי לימוד ילדים באמצעות קולות של בינה מלאכותית שהיו קיימים עד כה היווה אתגר מורכב, בעוד שהמודל הקולי החדש עשוי לספק חלופה טבעית ומתאימה בהרבה לשיחות לימודיות.
אזהרות מפני הונאות טלפוניות בהיקף נרחב
לצד התשבחות על פריצת הדרך הטכנולוגית, הציגו מומחים, עיתונאים ויוצרים דאגה עמוקה מפני ההשלכות הבטיחותיות והאבטחתיות של המודל. החשש המרכזי הוא כי קול מלאכותי שנשמע אנושי לחלוטין יסייע לגורמים פליליים להוציא לפועל הונאות קוליות מתוחכמות (Voice Phishing), המבוססות על סחיטה, התחזות ויצירת מצגי שווא בשיחות טלפון.
בין המזהירים הייתה הקולנוענית ג'וסטין בייטמן, שטענה כי קול בינה מלאכותית שנשמע אנושי עלול להטעות אנשים ולגרום להם להוריד את ההגנות שלהם. העיתונאי שיב ארור הביע חשש דומה לגבי פוטנציאל ההונאה, והזהיר כי שיחות ההונאה עומדות להגיע לממדי מגפה. החשש נובע מכך שגורמים פליליים יוכלו לנצל את היכולת לחקות טון אנושי וקצב דיבור טבעי כדי להתחזות לנציגי בנקים, לגורמי ממשל או לבני משפחה, ולפתות קורבנות למסור מידע רגיש או להעביר כספים.
המעבר מהבנת שפה לייעול תהליכים עסקיים
ההתפתחות של Dessa משתלבת במגמה רחבה יותר בתחום הבינה המלאכותית השיחתית. בעוד שבעבר התחרות בין עוזרים קוליים התמקדה בעיקר ביכולת לפענח ולהבין מה המשתמשים אומרים, כיום הדגש העיקרי עובר לשאלה המעשית: מה הבינה המלאכותית מסוגלת לבצע לאחר שהיא מבינה את ההוראות. רבים מהתהליכים העסקיים פועלים כבר כיום במתכונת של שיחה, גם כאשר הם מתנהלים בפועל דרך שרשראות דוא"ל, גיליונות אלקטרוניים או פלטפורמות ארגוניות.
עבור חברות בתחום המסחר בין עסקים (B2B), השימוש בסייענים קוליים חכמים מציע דחיסה של תהליכי עבודה (Workflow Compression), המאפשרת לאחד מספר אינטראקציות ארגוניות נפרדות לתוך דיאלוג קולי אחד. בין היישומים המרכזיים שניתן לראות בתעשייה:
ניהול מלאי במחסנים: מנהלי עבודה יכולים לברר נתונים על מחסור במלאי ישירות תוך כדי סיור ברצפת המחסן, ללא צורך בעצירת העבודה לצורך הקלדה.
טכנאי שטח: יכולים לאבחן תקלות בציוד ולשאול שאלות טכניות בזמן אמת מבלי לעצור ולתפעל מסכים.
ניהול חשבונות לתשלום: מנהלי כספים יכולים לבצע שאילתות מורכבות ולנהל משימות פיננסיות ישירות מול מערכות התכנון הארגוני (ERP).
במסגרת תהליכי ניהול חשבונות, מנהל כספים יכול לפנות לסייען הקולי ולבקש ממנו לזהות אילו חשבוניות הופכות לבעלות סיכון גבוה, לפנות לספקים בבקשה לקבלת ארכה בתשלומים עבור סכומים שאינם עולים על 50,000 דולר, ולהכין סיכום נזילות לקראת פגישת מנהל הכספים הראשי (CFO). היכולת לנהל משימות מורכבות אלו באמצעות דיאלוג טבעי מראה כיצד הבינה המלאכותית הקולית הופכת מכלי שיחתי בסיסי לרכיב מרכזי בייעול התפעול הארגוני.
למה זה חשוב לך
טכנולוגיית קול מלאכותי שנשמעת אנושית לחלוטין עלולה להגיע גם לישראל ולשמש להונאות טלפוניות מול צרכנים ישראלים, כולל התחזות לנציגי בנקים, חברות אשראי או קרובי משפחה. חשוב להיות ערניים לשיחות חשודות ולא למסור פרטים רגישים או לבצע העברות כספיות רק על סמך זיהוי קולי, גם אם הקול נשמע מוכר ואמין. במקביל, עסקים ישראליים עשויים ליהנות משילוב כלים דומים לייעול תהליכי עבודה, כפי שתואר בכתבה, אך יידרשו להיערך גם מבחינת אבטחת מידע והגנה מפני ניצול לרעה של הטכנולוגיה.
התוכן בכתבה זו נועד לספק סקירה כללית בלבד ואינו מהווה תחליף לייעוץ מקצועי פרטני. המערכת אינה אחראית לכל נזק או הפסד שייגרם כתוצאה מהסתמכות על המידע המוצג.
קראו גם: ארכיטקטורת NVIDIA Vera Rubin עברה לייצור: צפויה להניב כ-40 מיליארד דולר לגיגוואט · בינה מלאכותית גילתה מסלול טיסה חדש לאלפא סנטאורי שפיזיקאים החמיצו
