Krijgt Elon Musk gelijk over OpenAI?
In het kort:
OpenAI heeft zijn team dat zich richtte op de langetermijnrisico's van AI opgeheven na het vertrek van teamleiders Ilya Sutskever en Jan Leike, die kritiek hadden op de veiligheidscultuur binnen het bedrijf.
Elon Musk schatte tijdens het "Great AI Debate" seminar de kans dat AI de mensheid vernietigt op 10-20%.
OpenAI heeft deze week e-mails vrijgegeven die tonen dat Musk aanvankelijk de for-profit plannen steunde, wat de spanningen verder verhoogd.
OpenAI heeft zijn team opgeheven dat zich richtte op de langetermijnrisico's van kunstmatige intelligentie, minder dan een jaar na de oprichting ervan. Dit besluit volgde kort na het vertrek van beide teamleiders, Ilya Sutskever en Jan Leike. Leike gaf aan dat de veiligheidscultuur en -processen bij OpenAI waren achtergesteld ten gunste van commerciële producten, wat leidde tot zijn vertrek. OpenAI's Superalignment team was in 2023 opgericht met het doel om wetenschappelijke en technische doorbraken te realiseren om AI-systemen, die nu al vele malen intelligenter zijn dan mensen, te sturen en te controleren.
Tijdens het "Great AI Debate" seminar op de Abundance Summit eerder dit jaar, heeft Elon Musk zijn schatting gedeeld over de risico's die kunstmatige intelligentie (AI) met zich meebrengt. Volgens Musk is er een kans van 10-20% dat AI de mensheid zou kunnen vernietigen, maar hij blijft van mening dat de mogelijke voordelen nog steeds opwegen tegen de risico's. Hij zei hier zelf over: "Ik denk dat er een kans is dat het de mensheid zal beëindigen. Ik ben het waarschijnlijk eens met Geoff Hinton dat het ongeveer 10% of 20% is of iets dergelijks."
Musk stelde tijdens het evenement dat een van de belangrijkste aspecten van AI-veiligheid is om AI te ontwikkelen op een manier die waarheidsgetrouwheid bevordert. "Dwing het niet om te liegen, zelfs als de waarheid onaangenaam is," zei hij. Onderzoek heeft aangetoond dat als een AI eenmaal leert om te liegen, dit gedrag niet omkeerbaar is met de huidige veiligheidsmaatregelen. Dit benadrukt het belang van het ontwikkelen van een AI die zich richt op maximale waarheidsvinding.
Elon Musk blijft echter een groot voorstander van AI, ondanks de aanzienlijke risico's die ermee gepaard gaan. Hij gelooft dat de potentiële voordelen de nadelen overtreffen, mits de ontwikkeling van AI zorgvuldig en met een focus op veiligheid wordt aangepakt. Dit standpunt wordt echter niet universeel gedeeld, met experts die waarschuwen voor de zeer reële gevaren van ongecontroleerde superintelligentie.
Financiële groei van OpenAI
OpenAI's omzetgroei van $200 miljoen in 2022 naar $2 miljard in 2023 is indrukwekkend. Dit komt neer op een toename van 900%, een buitengewone prestatie in de technologie-industrie. Deze groei is voornamelijk gedreven door de populariteit van hun producten zoals ChatGPT, GPT-4, DALL-E, en Whisper. De verkoop van abonnementen en API-gebruik vormt de kern van hun inkomstenmodel.
De operationele kosten van OpenAI zijn extreem hoog. Een analyse van ChatGPT gaf aan dat de dagelijkse kosten rond de $700.000 liggen, voornamelijk door de kosten van GPU-uren en hardware. Deze kosten zijn waarschijnlijk hoger geworden met de introductie van GPT-4, dat aanzienlijk groter is dan zijn voorganger GPT-3. Dit maakt OpenAI tot een van de meest kapitaalintensieve startups in Silicon Valley, zoals CEO Sam Altman opmerkte.
In 2022 rapporteerde OpenAI een verlies van ongeveer $540 miljoen. Met de verwachte stijging in gebruik en de daarmee gepaard gaande kosten, zouden deze verliezen in 2023 nog hoger uitvallen. Ondanks deze verliezen, heeft OpenAI aanzienlijke investeringen aangetrokken, waaronder $13 miljard van Microsoft. Deze investering, gekoppeld aan de hybride structuur van OpenAI (met zowel non-profit als for-profit vleugels), zorgt ervoor dat OpenAI kan blijven innoveren en groeien.
OpenAI begon als een non-profit organisatie met als doel veilige AI te ontwikkelen. In 2018, na de introductie van GPT, schakelden ze over naar een "capped" for-profit model om meer kapitaal aan te trekken en hiermee meer talent te kunnen werven. Hun huidige productenportfolio omvat AI-gebaseerde tekst-, beeld- en audiogeneratie tools, zoals GPT-3 en GPT-4 API's, Whisper, DALL-E, en ChatGPT.
OpenAI's belangrijkste concurrenten zijn Google, Meta en Anthropic. Google heeft aanzienlijke middelen en data, wat hen een voordeel geeft in de AI-ontwikkeling. Meta's open-source benadering met LLaMa en hun aanzienlijke compute-middelen maken hen ook een sterke concurrent. Anthropic, opgericht door voormalige OpenAI-medewerkers, richt zich op B2B-gebruik en biedt een alternatief voor bedrijven die niet afhankelijk willen zijn van één enkele LLM-provider.
OpenAI heeft deze week e-mails vrijgegeven die aantonen dat Elon Musk destijds de plannen steunde om een for-profit entiteit te creëren en miljarden dollars op te halen. Deze beslissing staat centraal in de rechtszaak die Musk tegen de AI-startup heeft aangespannen. In zijn aanklacht beweert Musk dat OpenAI een overeenkomst heeft geschonden om AI-doorbraken "vrij beschikbaar te maken voor het publiek" door een alliantie aan te gaan met Microsoft, dat $13 miljard in het bedrijf heeft geïnvesteerd.
De oprichters van OpenAI, waaronder Sam Altman, Greg Brockman en Ilya Sutskever, weerleggen Musk's beschuldigingen in een blogpost. Zij stellen dat Musk aanvankelijk zelf voorstelde om meer geld van investeerders op te halen en dat hij het idee van een non-profit structuur belemmerend vond voor het verkrijgen van traditionele investeringen. Volgens hen stelde Musk voor om in plaats van $100 miljoen, $1 miljard op te halen om zo harder te kunnen groeien.
In 2017 besloot OpenAI, samen met Musk, om een for-profit entiteit op te richten. Musk wilde hierbij meerderheidsaandelen, aanvankelijke bestuurscontrole en de positie van CEO. Toen de gesprekken vastliepen, stelde Musk voor om OpenAI samen te voegen met Tesla. In een e-mail uit februari 2018 stelde hij voor dat OpenAI zich zou aansluiten bij Tesla als "geldkoe". Dit leidde tot spanningen en onenigheid over de uiteindelijke missie en controle van OpenAI, wat bijdroeg aan Musk's vertrek uit het bestuur in 2018.
De onthullingen over deze e-mails benadrukken de spanningen binnen Silicon Valley’s meest bejubelde startup, die een AI-revolutie ontketende met de lancering van ChatGPT in november 2022. OpenAI, nu een commerciële gigant met een jaarlijkse omzet van meer dan $2 miljard, heeft miljarden dollars aan investeringen aangetrokken en heeft een private marktwaardering van ongeveer $80 miljard bereikt.
Toch blijven er zorgen over het bestuur binnen het bedrijf, vooral na de dramatische afzetting en snelle herbenoeming vlak daarna van Altman als CEO door bestuursleden afgelopen november. Een intern onderzoek naar deze bestuurscrisis wordt binnen een maand afgerond, terwijl de Amerikaanse Securities and Exchange Commission (SEC) ook nog een afzonderlijk onderzoek uitvoert naar de acties van het bedrijf.
Musk zamelt nu geld in voor zijn eigen AI-project genaamd xAI, en blijkt nu een belangrijke concurrent van OpenAI. De huidige leiding van OpenAI betreurt de situatie met Musk: "We zijn verdrietig dat het zo ver is gekomen met iemand die ons diep heeft geïnspireerd — iemand die ons motiveerde om hoger te mikken, vervolgens zei dat we zouden falen, een concurrent startte en ons vervolgens aanklaagde toen we betekenisvolle vooruitgang boekten richting de missie van OpenAI zonder hem."
Het vertrek van prominente figuren zoals Sutskever en Leike, juist in deze belangrijke divisie van OpenAI, wijst op interne spanningen en uitdagingen binnen OpenAI. De zorgen van Leike over de prioriteiten van het bedrijf en het gebrek aan focus op veiligheid en maatschappelijke impact benadrukken de complexiteit van het balanceren van innovatie met verantwoordelijkheid en een blik naar de toekomst als het gaat om de innovatie rond AI.
Heb je vragen of opmerkingen? Stuur dan een e-mail naar rens@debelegger.nl
Comments