OpenAI, organizacja postanowiła opublikować korespondencję z Elonem Muskiem. Jest to odpowiedź na pozew, który Musk założył przeciwko OpenAI. Jak się okazuje, w grze są nie tylko miliardy dolarów, ale również przyszłość sztucznej inteligencji.
Historia relacji pomiędzy Muskiem a OpenAI jest niczym scenariusz hollywoodzkiego filmu. Od początkowego entuzjazmu, przez nieporozumienia, aż po otwarty konflikt – emocje sięgają zenitu. OpenAI, w duchu transparentności, postanowiło ujawnić szczegóły ich interakcji, rzucając nowe światło na tę skomplikowaną relację.
W komunikacie na Blogu, OpenAI podkreśla zaangażowanie w misję organizacji, której celem jest zapewnienie, aby sztuczna inteligencja ogólna (AGI) przynosiła korzyści całej ludzkości. To nie tylko kwestia budowania bezpiecznej i korzystnej AGI, ale również pomagania w tworzeniu szeroko rozpowszechnionych korzyści z jej istnienia.
W ramach tej misji, OpenAI decyduje się podzielić tym, czego nauczyli się na swojej drodze – zarówno w kontekście osiągania celów organizacji, jak i faktów dotyczących ich relacji z Elonem Muskiem. W obliczu trwających sporów prawnych, organizacja zamierza odrzucić wszystkie roszczenia zgłoszone przez Muska, co sugeruje dążenie do rozwiązania konfliktu w sposób zgodny z ich wartościami i długoterminowymi celami.
AGI potrzebuje dużo większych zasobów mocy obliczeniowej i inwestycji niż pierwotnie zakładano
OpenAI podjęło się ambitnej misji zbudowania ogólnej sztucznej inteligencji ogólnej (AGI), która okazała się znacznie bardziej zasobożerna niż początkowo zakładano. W późnym 2015 roku, przy zakładaniu OpenAI przez Grega Brockmana i Sama Altmana, wstępny plan zakładał zebranie 100 milionów dolarów. Jednakże Elon Musk, widząc skalę projektu i porównując ją do inwestycji gigantów technologicznych, zasugerował ogłoszenie znacznie większej rundy finansowania – 1 miliarda dolarów. To Musk zaproponował, że pokryje wszelkie braki w finansowaniu, które nie zostaną zaspokojone przez innych donatorów.
Ostatecznie, non-profit zebrało dużo mniej bo około 135 milionów dolarów, niecałe 45 milionów dolarów od Muska i ponad 90 milionów od innych darczyńców, co znacznie odbiegało od założonych ambicji. Wczesne 2017 przyniosło kolejne odkrycie – realizacja AGI wymaga ogromnych ilości zasobów obliczeniowych, daleko przewyższających początkowe szacunki. OpenAI zrozumiało, że osiągnięcie ich misji wymagać będzie zgromadzenia miliardów dolarów rocznie, znacznie więcej niż ktokolwiek, w tym Musk, przewidywał na etapie tworzenia organizacji non-profit.
Organizacja non-profit nie wystarczy
W procesie rozwoju OpenAI i dążenia do stworzenia AGI, organizacja wraz z Elonem Muskiem doszli do wniosku, że konieczne będzie utworzenie struktury zarobkowej, aby zdobyć niezbędne zasoby. Dyskusje na ten temat ujawniły różnice w wizji przyszłości OpenAI między jej założycielami a Muskiem. Elon proponował fuzję z Teslą lub pragnął pełnej kontroli nad nowo utworzoną strukturą zarobkową, co było sprzeczne z pierwotną misją OpenAI.
W późnym 2017 roku, po intensywnych dyskusjach i nieosiągnięciu porozumienia, Musk zdecydował się wycofać swoje wsparcie finansowe, co zmusiło OpenAI do szukania innych źródeł finansowania. Reid Hoffman, współzałożyciel LinkedIn, zaoferował wówczas pomoc, zapewniając fundusze niezbędne do kontynuacji operacji i wypłat wynagrodzeń.
Ostatecznie, niezdolność do osiągnięcia kompromisu w kwestii struktury zarobkowej skłoniła Elona Muska do opuszczenia OpenAI w początkach 2018 roku. Przed odejściem, zaproponował on połączenie OpenAI z Teslą, sugerując, że może to być jedyna droga do konkurowania z gigantami takimi jak Google. Musk podkreślił, że sukces w tworzeniu AGI będzie wymagał inwestycji na poziomie miliardów dolarów rocznie, co było znacznie więcej niż początkowe szacunki i możliwości OpenAI jako organizacji non-profit.
Tesla to jedyna ścieżka, która może dać nadzieję na dorównanie Google. Nawet wtedy prawdopodobieństwo bycia przeciwwagą dla Google jest niewielkie. Po prostu nie jest zerowe”
Elon Musk
Decyzja Muska o opuszczeniu OpenAI i założeniu własnego projektu AGI w Tesli była kluczowym momentem, który zdefiniował dalszą ścieżkę obu inicjatyw. OpenAI, pozostając wiernym swojej pierwotnej misji, kontynuowało prace nad AGI, poszukując nowych sposobów finansowania swoich ambitnych celów.
OpenAI nie rezygnuje z misji
W dalszej części wpisu OpenAI zaznacza że pomimo sporów z Elonem Muskiem OpenAI nie rezygnuje z misji.
OpenAI podkreśla swoje zaangażowanie w tworzenie narzędzi, które są szeroko dostępne i przynoszą korzyści społeczeństwu, poprzez ich aplikacje, które są używane codziennie przez setki milionów osób na całym świecie. Organizacja podkreśla kilka przykładów, jak ich technologia wpływa pozytywnie na różne aspekty życia i różne branże:
- W Albanii narzędzia OpenAI są wykorzystywane do przyspieszenia procesu akcesji do Unii Europejskiej o nawet 5,5 roku.
- Organizacja Digital Green używa technologii OpenAI do zwiększenia dochodów rolników w Kenii i Indiach, obniżając koszty usług rolniczych nawet sto razy.
- Lifespan, największy dostawca usług medycznych w Rhode Island, korzysta z GPT-4 do uproszczenia formularzy zgody na operacje, zmniejszając poziom wymaganej wiedzy z poziomu uniwersyteckiego do szóstoklasisty.
- Islandia wykorzystuje GPT-4 do zachowania języka islandzkiego.
W kontekście otwartości OpenAI, organizacja wspomina o swojej misji, która nie zakłada całkowitego open-sourcingu AGI. Dialog między Ilją Sutskeverem a Elonem Muskiem ukazuje, że choć początkowo OpenAI promowało ideę otwartości, zrozumiano, że z czasem, zbliżając się do stworzenia AGI, może być konieczne ograniczenie dostępu do niektórych elementów badań, aby zapewnić bezpieczeństwo i skuteczność rozwoju AI.
Mimo osobistych rozbieżności i ostatecznego odejścia Elona Muska, OpenAI kontynuuje swoją misję, dążąc do stworzenia narzędzi AI, które będą wspierać ludzi w codziennym życiu i przyczyniać się do postępu w różnych dziedzinach. Organizacja wyraża determinację w dalszym rozwijaniu swoich technologii, aby umożliwić każdej osobie korzystanie z zalet sztucznej inteligencji.
Poniżej oryginalna opublikowana korespondencja:
From: Elon Musk
To: Greg Brockman
CC: Sam Altman
Date: Sun, Nov 22, 2015 at 7:48 PM
Subject: follow up from call
Blog sounds good, assuming adjustments for neutrality vs being YC-centric.
I'd favor positioning the blog to appeal a bit more to the general public -- there is a lot of value to having the public root for us to succeed -- and then having a longer, more detailed and inside-baseball version for recruiting, with a link to it at the end of the general public version.
We need to go with a much bigger number than $100M to avoid sounding hopeless relative to what Google or Facebook are spending. I think we should say that we are starting with a $1B funding commitment. This is real. I will cover whatever anyone else doesn't provide.
Template seems fine, apart from shifting to a vesting cash bonus as default, which can optionally be turned into YC or potentially SpaceX (need to understand how much this will be) stock.
From: Elon Musk
To: Ilya Sutskever, Greg Brockman
Date: Thu, Feb 1, 2018 at 3:52 AM
Subject: Fwd: Top AI institutions today
... is exactly right. We may wish it otherwise, but, in my and ’s opinion, Tesla is the only path that could even hope to hold a candle to Google. Even then, the probability of being a counterweight to Google is small. It just isn't zero.
Begin forwarded message:
From:
To: Elon Musk
Date: January 31, 2018 at 11:54:30 PM PST
Subject: Re: Top AI institutions today
Working at the cutting edge of AI is unfortunately expensive. For example,In addition to DeepMind, Google also has Google Brain, Research, and Cloud. And TensorFlow, TPUs, and they own about a third of all research (in fact, they hold their own AI conferences).
I also strongly suspect that compute horsepower will be necessary (and possibly even sufficient) to reach AGI. If historical trends are any indication, progress in AI is primarily driven by systems - compute, data, infrastructure. The core algorithms we use today have remained largely unchanged from the ~90s. Not only that, but any algorithmic advances published in a paper somewhere can be almost immediately re-implemented and incorporated. Conversely, algorithmic advances alone are inert without the scale to also make them scary.
It seems to me that OpenAI today is burning cash and that the funding model cannot reach the scale to seriously compete with Google (an 800B company). If you can't seriously compete but continue to do research in open, you might in fact be making things worse and helping them out “for free”, because any advances are fairly easy for them to copy and immediately incorporate, at scale.
A for-profit pivot might create a more sustainable revenue stream over time and would, with the current team, likely bring in a lot of investment. However, building out a product from scratch would steal focus from AI research, it would take a long time and it's unclear if a company could “catch up” to Google scale, and the investors might exert too much pressure in the wrong directions.The most promising option I can think of, as I mentioned earlier, would be for OpenAI to attach to Tesla as its cash cow. I believe attachments to other large suspects (e.g. Apple? Amazon?) would fail due to an incompatible company DNA. Using a rocket analogy, Tesla already built the “first stage” of the rocket with the whole supply chain of Model 3 and its onboard computer and a persistent internet connection. The “second stage” would be a full self driving solution based on large-scale neural network training, which OpenAI expertise could significantly help accelerate. With a functioning full self-driving solution in ~2-3 years we could sell a lot of cars/trucks. If we do this really well, the transportation industry is large enough that we could increase Tesla's market cap to high O(~100K), and use that revenue to fund the AI work at the appropriate scale.
I cannot see anything else that has the potential to reach sustainable Google-scale capital within a decade.
From: Elon Musk
To: Ilya Sutskever , Greg Brockman
CC: Sam Altman
Date: Wed, Dec 26, 2018 at 12:07 PM
Subject: I feel I should reiterate
My probability assessment of OpenAI being relevant to DeepMind/Google without a dramatic change in execution and resources is 0%. Not 1%. I wish it were otherwise.
Even raising several hundred million won't be enough. This needs billions per year immediately or forget it.
Unfortunately, humanity's future is in the hands of .
And they are doing a lot more than this.
I really hope I'm wrong.
Elon
Fwd: congrats on the falcon 9
3 messages
From: Elon Musk
To: Sam Altman, Ilya Sutskever, Greg Brockman
Date: Sat, Jan 2, 2016 at 8:18 AM
Subject: Fwd: congrats on the falcon 9
Begin forwarded message:
From: <>
To: Elon Musk <>
Date: January 2, 2016 at 10:12:32 AM CST
Subject: congrats on the falcon 9
Hi Elon
Happy new year to you, !
Congratulations on landing the Falcon 9, what an amazing achievement. Time to build out the fleet now!
I've seen you (and Sam and other OpenAI people) doing a lot of interviews recently extolling the virtues of open sourcing AI, but I presume you realise that this is not some sort of panacea that will somehow magically solve the safety problem? There are many good arguments as to why the approach you are taking is actually very dangerous and in fact may increase the risk to the world. Some of the more obvious points are well articulated in this blog post, that I'm sure you've seen, but there are also other important considerations:
http://slatestarcodex.com/2015/12/17/should-ai-be-open/
I’d be interested to hear your counter-arguments to these points.
Best
From: Ilya Sutskever
To: Elon Musk, Sam Altman, Greg Brockman
Date: Sat, Jan 2, 2016 at 9:06 AM
Subject: Fwd: congrats on the falcon 9
The article is concerned with a hard takeoff scenario: if a hard takeoff occurs, and a safe AI is harder to build than an unsafe one, then by opensorucing everything, we make it easy for someone unscrupulous with access to overwhelming amount of hardware to build an unsafe AI, which will experience a hard takeoff.
As we get closer to building AI, it will make sense to start being less open. The Open in openAI means that everyone should benefit from the fruits of AI after its built, but it's totally OK to not share the science (even though sharing everything is definitely the right strategy in the short and possibly medium term for recruitment purposes).
From: Elon Musk <>
To: Ilya Sutskever
Date: Sat, Jan 2, 2016 at 9:11 AM
Subject: Fwd: congrats on the falcon 9
Yup
