מנכ'ל גוגל לשעבר, אריק שמידט, מזהיר כי AI עשוי לחרוג משליטה אנושית בקרוב, ומעלה שאלות קריטיות לגבי בטיחות וממשל של מערכות מתוחכמות אלה. ההתקדמות המהירה של בינה מלאכותית מעוררת הן התרגשות והן חשש, והוא קורא לפעולה דחופה להבטיח פיתוח אחראי.
מדוע אומות נכנסות לסכסוך? הניע אותו משאבים בסיסיים. קריטי שאומות יישארו ערניות ויזומות. ההתקדמות המעריכית בבינה מלאכותית משנה את הנוף באופן משמעותי. טריליוני דולרים בהשקעות על כף המאזניים, והאסטרטגיה השלטת היא להישאר מעורפלים בכוונה.
מסיושי סון וקבוצת SoftBank משקיעים רבות בתחום הבינה המלאכותית, מתוך חזון להשיג בינה על-אנושית (ASI) עד 2035, תוך התמקדות בשבבים, מרכזי נתונים, רובוטים ואנרגיה. הם מנסים לפצות על פספוס הזדמנות עם Nvidia.
האם Claude 3.7 Sonnet של Anthropic, עם ביקורת אבטחה עצמאית, מייצג קפיצת מדרגה באבטחת בינה מלאכותית? המודל משלב 'AI חוקתי', אימון יריב, ו-RLHF להגנה משופרת.
