2019 मध्ये, MIT तंत्रज्ञान पुनरावलोकनातील अनुभवी पत्रकार करेन हाओ यांनी त्यांच्या संपादकाला OpenAI बद्दल एक कथा सांगितली, जी त्यावेळी मोठ्या प्रमाणात रडारखाली काम करत होती. काय उलगडले ते अनपेक्षित वळणांनी भरलेला प्रवास होता, ज्यामुळे हे दिसून आले की OpenAI च्या महत्वाकांक्षा त्याच्या सुरुवातीच्या ध्येयांपासून किती दूर गेल्या होत्या.
मी सर्वप्रथम 7 ऑगस्ट, 2019 रोजी OpenAI च्या कार्यालयात प्रवेश केला. त्यावेळी कंपनीचे CTO असलेले ग्रेग ब्रॉकमन यांनी मला hesitantly स्मितहास्य केले आणि कबूल केले की अशा विस्तृत प्रवेश देणे त्यांच्यासाठी अभूतपूर्व आहे.
OpenAI सामान्य जनतेसाठी तुलनेने अज्ञात असले तरी, कृत्रिम बुद्धिमत्तेच्या सतत विकसित होत असलेल्या परिदृश्याचे कव्हरेज करणारी एक पत्रकार म्हणून, मी त्याच्या विकासावर बारकाईने लक्ष ठेवले होते.
OpenAI चे सुरुवातीचे दिवस आणि बदलती भरती
2019 पूर्वी, OpenAI ला AI संशोधन समुदायात काही प्रमाणात अपवाद मानले जात होते. एका दशकात Artificial General Intelligence (AGI) साध्य करण्याच्या त्याच्या धाडसी दाव्याला अनेकांनी संशय व्यक्त केला. महत्त्वपूर्ण निधी असूनही, कंपनीकडे स्पष्ट दिशेचा अभाव होता आणि त्याचे विपणन प्रयत्न इतर तज्ञांनी मूळ नसलेले मानले. तरीही, OpenAI ने मत्सर देखील आकर्षित केला. ना-नफा म्हणून, ते व्यापारीकरणामध्ये स्वारस्य नसल्याचे घोषित केले, ज्यामुळे आर्थिक दबावाच्या Constraints पासून मुक्त बौद्धिक अन्वेषणासाठी एक अद्वितीय वातावरण तयार झाले.
तथापि, माझ्या भेटीच्या Leading सहा महिन्यांत, जलद बदलांच्या मालिकेने OpenAI च्या दिशेने महत्त्वपूर्ण बदल दर्शविला. पहिले चिन्ह GPT-2 ला Withhold करण्याचा वादग्रस्त निर्णय होता, तरीही त्याच्या क्षमता सार्वजनिक केल्या गेल्या. त्यानंतर सॅम Altman यांच्या Y Combinator (YC) मधून बाहेर पडल्यानंतर CEO म्हणून नियुक्तीची घोषणा आली, त्यासोबत "capped-profit" संरचनेची निर्मिती झाली. या घडामोडींमध्ये, OpenAI ने Microsoft सोबत भागीदारी उघड केली, ज्यामुळे टेक जायंटला OpenAI च्या तंत्रज्ञानाचे व्यापारीकरण आणि Microsoft Azure क्लाउड सेवांचा Exclusive वापर करण्यास प्राधान्य मिळाले.
यापैकी प्रत्येक घोषणेने Tech उद्योगानंतर Controversy, speculation आणि वाढते लक्ष निर्माण केले. बदल उलगडत असताना, त्यांचे महत्त्व पूर्णपणे समजून घेणे कठीण होते. तथापि, हे स्पष्ट होते की OpenAI AI संशोधन आणि धोरणकर्त्यांनी तंत्रज्ञान समजून घेण्याच्या पद्धतीवर महत्त्वपूर्ण प्रभाव टाकण्यास सुरुवात करत आहे. अंशतः नफा-आधारित व्यवसायात संक्रमण करण्याचा निर्णय उद्योग आणि सरकारमध्ये दूरगामी परिणाम घडवून आणणारा होता.
एके संध्याकाळी, माझ्या संपादकाने प्रोत्साहित केल्यामुळे, मी OpenAI चे धोरण संचालक जॅक क्लार्क यांच्याशी संपर्क साधला, ज्यांच्याशी मी यापूर्वी बोललो होतो. मी OpenAI वर एक प्रोफाइल प्रस्तावित केले, मला जाणीव झाली की हा कंपनीच्या इतिहासातील एक निर्णायक क्षण आहे. क्लार्कने मला कम्युनिकेशन हेडशी कनेक्ट केले, ज्याने नेतृत्वाची मुलाखत घेण्यासाठी आणि तीन दिवसांसाठी कंपनीमध्ये Embed करण्याची Invitation दिली.
OpenAI च्या आत: ध्येय आणि महत्त्वाकांक्षा
ब्रॉकमन आणि मी चीफ सायंटिस्ट इल्या Sutskever यांच्यासोबत काचेच्या Meeting रूममध्ये सामील झालो. समोरासमोर बसलेले, त्यांनी एकमेकांच्या Roles complement केल्या. कोडर आणि Implementer असलेल्या ब्रॉकमनने positive Impression पाडण्यासाठी उत्सुक दिसत होते, तर Researcher आणि Philosopher असलेले Sutskever अधिक Relaxed आणि Detached दिसत होते.
मी OpenAI च्या Mission बद्दल विचारून सुरुवात केली: beneficial AGI सुनिश्चित करणे. इतरांपेक्षा या समस्येमध्ये अब्जावधी Dollars चा Investment का करावा?
OpenAI च्या Position चा बचाव करण्यासाठी चांगले परिचित असलेल्या ब्रॉकमनने सांगितले की मानवी क्षमतेच्या पलीकडे असलेल्या Complex समस्या सोडवण्यासाठी AGI महत्त्वपूर्ण आहे. त्यांनी हवामान बदल आणि औषधोपचार यांसारखी उदाहरणे दिली, AGI मध्ये मोठ्या प्रमाणात Data चे विश्लेषण करण्याची आणि या Critical क्षेत्रांतील Advances ला गती देण्याची क्षमता दर्शविली.
त्यांनी एका मित्राच्या Rare Disorder चा अनुभव सांगितला, AGI Specialists ला Efficiently Connect करून Diagnostics आणि Treatment कशा Streamline करू शकते यावर प्रकाश टाकला.
त्यानंतर मी AGI आणि AI मधील फरक विचारला.
AGI, एकेकाळी एक Niche Concept, ने OpenAI च्या प्रभावामुळे मोठ्या प्रमाणात Traction मिळवले होते. AGI म्हणजे Hypothetical AI जे बहुतेक economically valuable Tasks मध्ये मानवी बुद्धिमत्तेशी जुळते किंवा त्याहून अधिक असते. संशोधकांनी प्रगती केली असली तरी, मानवी Consciousness Simulate करण्याच्या शक्यतेबद्दल Debate कायम आहे.
AI, दुसरीकडे, Current Technology आणि Near-Future Capabilities या दोहोंचा संदर्भ देते, जे हवामान बदल कमी करण्यासाठी आणि Healthcare मध्ये Applications दर्शवते.
Sutskever यांनी Add केले की AGI intelligent Computers मानवांपेक्षा अधिक Efficiently Communicate आणि एकत्र काम करण्यास सक्षम करून जागतिक आव्हाने सोडवू शकते, Incentive समस्यांना बायपास करून.
या Statement ने मला Question करण्यास प्रवृत्त केले की AGI माणसांना Replace करण्याचा हेतू आहे का. ब्रॉकमनने उत्तर दिले की Technology ने लोकांची सेवा केली पाहिजे आणि त्यांचे Quality of Life maintain करताना "Economic Freedom" सुनिश्चित केले पाहिजे.
ब्रॉकमनने Argument केले की OpenAI ची Role AGI Build केले जाईल की नाही हे Determine करणे नाही, तर ते कोणत्या Circumstances मध्ये तयार केले जाईल यावर Influence टाकणे आहे. त्यांनी Emphasis दिला की त्यांचे Mission AGI Build करून आणि त्याचे Economic Benefits Distributed करून मानवजातीसाठी Beneficial आहे याची खात्री करणे आहे.
आमचे संभाषण वर्तुळात चालू राहिले, Concrete तपशील मिळवण्यात Limited Success मिळाले. मी एक Different Approach करून Technology च्या Potential Downside बद्दल विचारले.
ब्रॉकमनने Deepfakes चा Possible Negative Application म्हणून उल्लेख केला.
मी स्वतः AI च्या Environmental Impact चा मुद्दा उपस्थित केला.
Sutskever यांनी Issue मान्य केला पण Argument केले की AGI Environmental Cost चा Counteract करू शकते. त्यांनी Green Data Centers ची Need वर Emphasis दिला.
"Data Centers हे Energy, Electricity चे सर्वात मोठे Consumer आहेत," Sutskever पुढे म्हणाले.
"हे Globally 2 टक्के आहे," मी Offer केले.
"Bitcoin 1 टक्क्यासारखे नाही का?" ब्रॉकमन म्हणाला.
Sutskever नंतर म्हणाले, "मला वाटते की पृथ्वीच्या संपूर्ण पृष्ठभागावर Data Centers आणि Power Stations चा प्रसार होण्यासाठी जास्त वेळ लागणार नाही. संगणनाचा Tsunami येईल… जवळजवळ Natural Phenomenon सारखे."
मी त्यांना Challenge केले की OpenAI हे Gambling करत आहे की जागतिक Warming ला Counteract करण्यासाठी Beneficial AGI successfully Achieve करेल, असे करण्याच्या कृतीमुळे ते Exacerbate होऊ शकते.
ब्रॉकमनने घाईघाईने सांगितले, "आम्ही याचा विचार अशा प्रकारे करतो: आम्ही AI प्रगतीच्या Ramp वर आहोत. हे OpenAI पेक्षा मोठे आहे, बरोबर? हे Field आहे. आणि मला वाटते की Society ला प्रत्यक्षात त्याचा Benefit मिळत आहे."
Microsoft च्या नवीन $1 Billion Investment चा संदर्भ देत ते म्हणाले, "ज्या दिवशी आम्ही Deal ची Announcement केली, त्या दिवशी Microsoft चे Market Cap $10 Billion ने वाढले. लोकांना वाटते की Short-Term Technology वर Positive ROI आहे."
अशा प्रकारे OpenAI ची Strategy अगदी Simple होती, त्यांनी Explain केले: त्या प्रगतीबरोबर Keep करणे.
त्या दिवशी Later, ब्रॉकमनने Reiterate केले की AGI कसे दिसेल हे कोणालाही माहीत नाही आणि त्यांचे Task पुढे ढकलणे, Step by Step Technology चा Shape Unearth करणे आहे.
Behind the Scenes: Transparency आणि Control
मी Employees सोबत Cafeteria मध्ये Lunch करण्यासाठी Originally Scheduled होतो, पण मला सांगण्यात आले की मला Office च्या बाहेर असणे आवश्यक आहे. ब्रॉकमन माझे Chaperone असतील.
माझ्या Visit मध्ये ही Pattern Repeat झाली: काही Areas मध्ये Restricted Access, Meetings ज्यामध्ये मी Attend करू शकत नाही आणि Researchers कम्युनिकेशन हेडकडे Glancing करून खात्री करत होते की ते कोणत्याही Disclosure Policies चे Violation करत नाहीत. माझ्या Visit नंतर, जॅक क्लार्कने Slack वर Employees ला Stern Warning पाठवले की Sanctioned Conversations व्यतिरिक्त माझ्याशी बोलू नये. Security Guard ला माझा Photograph देखील मिळाला, जेणेकरून मी Unapproved Premises वर दिसल्यास ते माझ्याकडे Look Out करू शकतील. हे Behaviors OpenAI च्या Transparency च्या Commitment च्या Contrast मध्ये होते, ज्यामुळे काय Conceal केले जात आहे याबद्दल Questions निर्माण झाले.
Lunch मध्ये आणि त्यानंतरच्या दिवसांमध्ये, मी ब्रॉकमनला OpenAI Co-founding करण्याच्या त्याच्या Motives बद्दल Question केले. त्यांनी सांगितले की Alan Turing यांच्या Paper नंतर मानवी बुद्धिमत्तेचे Replicate करण्याच्या Idea ने ते Obsessed झाले होते. त्यामुळे त्यांना Inspiration मिळाली. त्यांनी Turing Test Game Code केला आणि तो Online टाकला, ज्यामुळे सुमारे 1,500 Hits मिळाले. त्यामुळे त्यांना Amazing वाटले. ते म्हणाले, "मला नुकतेच Realized झाले की मला तेच Pursue करायचे आहे."
ते 2015 मध्ये Co-founder म्हणून OpenAI मध्ये सामील झाले आणि त्यांनी Note केले की AGI ला Fruition मध्ये आणण्यासाठी ते काहीही करतील, जरी त्याचा अर्थ Janitor असला तरी. चार वर्षांनंतर त्याचे लग्न झाले तेव्हा त्यांनी Lab च्या Hexagonal Logo च्या Shape ने Emblazoned Custom Flower Wall समोर OpenAI च्या Office मध्ये Civil Ceremony आयोजित केली. Sutskever ने Officiate केले.
ब्रॉकमनने मला सांगितले, "Fundamentally, मला माझ्या उर्वरित Life साठी AGI वर काम करायचे आहे."
मी त्याला Motivate कशामुळे केले जाते याबद्दल Inquiry केली.
ब्रॉकमनने त्याच्या Life Time मध्ये Transformative Technology वर काम करण्याच्या Chances चा उल्लेख केला. त्यांचा विश्वास होता की ते Transform घडवून आणण्यासाठी Unique Position मध्ये आहेत. ते म्हणाले, "ज्या Problem मध्ये Participate न केल्यास त्याच प्रकारे Play Out होणार नाहीत, त्या Problems कडे मी Really Drawn आहे."
त्यांना AGI Lead करायचे होते आणि त्यांच्या Accomplishments साठी Recognition ची Crave होती. 2022 मध्ये ते OpenAI चे President झाले.
Profit, Mission आणि Competition
आमच्या Conversations दरम्यान, ब्रॉकमनने Assert केले की OpenAI च्या Structural Changes ने त्याचे Core Mission बदलले नाही. Capped-Profit Structure आणि New Investors ने त्यात Enhancement केले. ते म्हणाले, "आम्ही हे Mission-Aligned Investors मिळवण्यात Success झालो आहोत, जे Returns ऐवजी Mission ला Prioritize करण्यास तयार आहेत. ही Crazy गोष्ट आहे."
OpenAI कडे आता त्याचे Models Scale करण्यासाठी आणि Competition च्या पुढे राहण्यासाठी Resources होते. असे करण्यात Fail झाल्यास त्याचे Mission Undermine होऊ शकते. ही Assumption OpenAI च्या सर्व Actions आणि त्यांच्या Far-reaching Consequences ला Motion मध्ये Set करते. यामुळे OpenAI च्या प्रत्येक Research Advances वर Ticking Clock Set होते, Careful Deliberation च्या Time Scale वर नाही, तर इतरांपेक्षा Finish Line Cross करण्यासाठी Required Relentless Pace वर. यामुळे OpenAI च्या Unfathomable Amount of Resources च्या Consumption चे Justification होते.
ब्रॉकमनने AGI च्या Benefits Redistribute करण्याच्या Importence वर Emphasis दिला.
मी Public ला Successfully Benefits Distributed केलेल्या Technologies च्या Historical Examples बद्दल विचारले.
ते म्हणाले, "बरं, मला प्रत्यक्षात वाटते की… Internet ला Example म्हणून पाहणे देखील Interesting आहे. Problems देखील आहेत, बरोबर?" caveat म्हणून ते म्हणाले. "जेव्हा तुमच्याकडे Super Transformative काहीतरी असते, तेव्हा Positive Maximize करणे, Negative Minimize करणे कसे Determine करायचे हे सोपे नसते.
ते पुढे म्हणाले, "Fire हे दुसरे Example आहे. त्याचे काही Real Drawbacks देखील आहेत. त्यामुळे ते Control मध्ये कसे ठेवायचे आणि Shared Standards कसे ठेवायचे हे आम्हाला Determine करावे लागेल.
त्यांनी Follow केले, "Cars हे Good Example आहे. बऱ्याच लोकांकडे Cars आहेत, बऱ्याच लोकांना Benefit मिळतो. त्याचे काही Drawbacks देखील आहेत. त्याचे काही Externalities आहेत जे जगासाठी Necessarily Good नाहीत," त्यांनी Hesitantly Finished केले.
"मला वाटते की AGI साठी आम्हाला काय हवे आहे ते Internet च्या Positive Sides, Cars च्या Positive Sides, Fire च्या Positive Sides पेक्षा Different नाही. Implementation खूप Different आहे, कारण ती खूप Different Type ची Technology आहे."
त्यांच्या डोळ्यात New Idea ने Light Up केले. "Utilities कडे Look करा. Power Companies, Electric Companies खूप Centralized Entities आहेत, जे Low-Cost, High-Quality गोष्टी Provide करतात, ज्यामुळे लोकांचे Life Meaningfully Improve होते."
OpenAI स्वतःला Utility मध्ये कसे Turn करेल याबद्दल ब्रॉकमन एकदा पुन्हा Unclear दिसत होते.
ते एका गोष्टीकडे Return झाले, जी त्यांना Certain साठी माहीत होती. OpenAI AGI चे Benefits Redistribute करण्यासाठी आणि प्रत्येकाला Economic Freedom देण्यासाठी Committed आहे. ते म्हणाले, "आम्ही प्रत्यक्षात तेच म्हणतोय."
"आम्ही याचा विचार अशा प्रकारे करतो: Technology आत्तापर्यंत अशी काहीतरी आहे जी सर्व Boats Rise करते, पण त्याचा एक Real Concentrating Effect आहे. AGI अधिक Extreme असू शकते. काय होईल जर Value सर्व एकाच Place मध्ये Lock Up झाली तर? Society म्हणून आपण ज्या Trajectory वर आहोत तो तोच आहे. आणि आम्ही त्याचे Extreme पाहिलेले नाही. मला वाटत नाही की ते Good World आहे. मला Build करायला मदत करायची असलेले ते World नाही."
Fallout आणि Reaction
February 2020 मध्ये, मी MIT Technology Review साठी माझे Profile Published केले, ज्यामध्ये OpenAI ची Public Image आणि त्याच्या Internal Practices यांच्यातील Misalignment उघड झाली. मी म्हटले की "कालांतराने, Fierce Competitiveness आणि Ever More Funding चा Mounting Pressure ने Transparency, Openness आणि Collaboration च्या त्याच्या Founding Ideals ला Erode केले आहे."
Elon Musk ने तीन Tweets सह Response दिला:
"OpenAI अधिक Open असायला हवे, IMO"
"माझ्याकडे Control नाही आणि OpenAI मध्ये Very Limited Insight आहे. Safety साठी Dario वरील Confidence High नाही," ते Dario Amodei चा उल्लेख करत म्हणाले, जो Research चा Director आहे.
"Tesla सह Advanced AI Developing करणाऱ्या All Orgs ला Regulated केले पाहिजे"
Altman यांनी OpenAI च्या Employees ला Email पाठवला.
MIT Technology Review लेखाबद्दल त्यांनी लिहिले, "Definite Catastrophic नसताना, ते Clearly Bad होते."
त्यांनी लिहिले की ही "Fair Criticism" होती की Piece ने OpenAI ची Perception आणि त्याची Reality यांच्यातील Disconnect Identify केला आहे. त्यांनी Suggest केले की Amodei आणि Musk यांनी Musk च्या Criticism वर काम करण्यासाठी भेट घ्यावी. कोणत्याही Doubt च्या Avoidance साठी, Amodei चे Work आणि AI Safety Mission साठी Critical होते, असे त्यांनी लिहिले. "मला वाटते की आपण Team ला Publicly Defend करण्याचा मार्ग Future मध्ये कधीतरी शोधायला हवा (परंतु Press ला Public Fight देऊ नये, जी त्यांना Right Now आवडेल)."
Article नंतर, OpenAI ने तीन वर्षांसाठी माझ्याशी पुन्हा बोलणे बंद केले.