OpenAI

Da Wikipedia, l'enciclopedia libera.
Jump to navigation Jump to search

OpenAI è un'organizzazione non profit[1][2] di ricerca sull'intelligenza artificiale con lo scopo di promuovere e sviluppare un'intelligenza artificiale amichevole (Friendly AI) in modo che l'umanità possa trarne beneficio.

OpenAI
Logo
StatoStati Uniti Stati Uniti
Forma societariano profit
Fondazione2015
Fondata daElon Musk, Sam Altman
Sede principaleSan Francisco, California, U.S.A.
Persone chiaveIlya Sutskever, Greg Brockman
Sito web

Fondata a dicembre 2015, l'organizzazione, con sede a San Francisco[3], ha lo scopo di "collaborare liberamente" con altre istituzioni e ricercatori rendendo i suoi brevetti e ricerche aperti al pubblico[4][5].

I fondatori (tra cui Elon Musk e Sam Altman) sono stati motivati in parte dai rischi esistenziali derivanti dall'intelligenza artificiale generale[6][7].

Storia[modifica | modifica wikitesto]

Nell'ottobre del 2015, Musk, Altman e altri investitori annunciarono la formazione dell'organizzazione donando oltre 1 miliardo di dollari all'impresa[4].

Il 27 aprile 2016, OpenAI ha rilasciato una beta pubblica di "OpenAI Gym", piattaforma per ricerca di apprendimento per rinforzo[8].

Il 5 dicembre 2016, OpenAI ha rilasciato Universe, un software che misura e allena l'intelligenza generale di una IA tramite giochi, siti web e altre applicazioni[9][10][11][12].

Il 21 febbraio 2018, Musk si è dimesso dal consiglio di amministrazione, per un "un potenziale futuro conflitto [di interessi]" con la IA di Tesla per le automobili a guida autonoma; è rimasto un donatore[13].

Nel 2018, OpenAI ha sede nel Mission District di San Francisco, dove condivide un edificio con Neuralink, un'altra azienda co-fondata da Musk[14][15].

Partecipanti[modifica | modifica wikitesto]

Altri finanziatori del progetto:[17]

Lo staff di altro profilo:

Il gruppo si avviò a gennaio 2016 con nove ricercatori. Secondo WIRED, Brockman incontrò Yoshua Bengio, uno dei "padri fondatori" del movimento deep learning, e stilò una lista dei "migliori ricercatori nel campo". Peter Lee, di Microsoft, affermò che il costo di ricercatore di punta di IA supera il costo di uno dei migliori quarterback del NFL. Anche se OpenAI paga stipendi a livello di azienda (non a livello di non-profit), attualmente gli stipendi dei ricercatori di IA non sono paragonabili a quelli di Facebook o Google. Cionondimeno, Sutskever affermò che era disponibile a lasciare Google a favore di OpenAI "in parte a causa un gruppo molto forte di persone e, in larga misura, a causa della sua missione." Brockman affermò che "la cosa migliore che posso immaginare di fare è avvicinare l'umanità alla costruzione di un'IA reale in modo sicuro." Wojciech Zaremba, ricercatore di OpenAI, affermò che declinò offerte "al limite della pazzia", di due o tre volte più alte del suo valore di mercato, per prendere parte a OpenAI.[7]

Motivazioni[modifica | modifica wikitesto]

Alcuni scienziati, tra cui Stephen Hawking e Stuart Russell, credettero che se un'intelligenza artificiale avanzata ottenesse l'abilità di riprogettarsi da sola a una velocità sempre più elevata, una "esplosione di intelligenza" inarrestabile porterebbe all'estinzione dell'umanità. Musk definisce l'IA come la "minaccia più grande per l'esistenza" del genere umano[18]. OpenAI è stata strutturata come non profit cosicché i fondatori possano concentrarsi nella ricerca di un impatto positivo a lungo termine[4].

OpenAI afferma che "è difficile rendersi conto di quanto la società possa beneficiare di una IA al livello umano", e che è ugualmente difficile comprendere "quanto possa essere danneggiata se prodotta o usata incorrettamente"[4]. Le ricerche sulla sicurezza non possono essere posticipate: "a causa della sorprendente storia della IA, è difficile predire quando arriverà l'IA al livello umano"[19]. OpenAI afferma che l'IA "dovrebbe essere un'estensione della volontà umana individuale e, nello spirito della libertà, distribuita il più ampiamente e equamente possibile..."[4], e questo pensiero è stato espresso in un'altra circostanza, in riferimento a una classe potenzialmente enorme di prodotti con IA: "Siamo disposti a lasciare che la nostra società sia infiltrata da software autonomo e hardware i dettagli dei quali sono noti solo a pochi scelti? Naturalmente no"[20]. Il co-presidente Sam Altman si aspetta che questo progetto che dura decenni sorpasserà l'intelligenza umana[21].

Vishal Sikka, precedente CEO di Infosys, affermò che un requisito fondamentale per il suo contributo sarebbe stato il fatto di tenere l'azienda "aperta mentalmente" per "produrre risultati nell'interesse dell'umanità in generale". Inoltre disse che OpenAI "si allinea molto bene con i loro valori di lunga data" e il loro "sforzo di fare un lavoro significativo".[22] Cade Metz di Wired suggerisce che società come Amazon potrebbero essere motivate da un desiderio di usare software open source e dati per livellare il campo contro altre società come Google e Facebook che possiedono enormi quantità di dati proprietari. Altman afferma che Y Combinator condividerà i dati con OpenAI.[21]

Strategia[modifica | modifica wikitesto]

Musk pose questa domanda: "Cosa è la cosa migliore che possiamo fare per assicurare che il futuro sia buono? Potremmo stare nelle retrovie o possiamo incoraggiare un controllo normativo, o potremmo partecipare con la giusta struttura con persone interessate profondamente a sviluppare IA in un modo sicuro e vantaggioso per l'umanità." Musk riconobbe che "c'è sempre qualche rischio che nel progredire con l'IA (amichevole) si possa creare la cosa di cui siamo preoccupati"; cionondimeno, la miglior difesa è "dare il potere dell'IA a più persone possibile. Se tutti hanno l'IA, allora non c'è nessun individuo o piccolo gruppo di individui che ha l'IA con superpoteri".[17]

La strategia anti-intuitiva di Musk e Altman di pensare di ridurre il rischio che l'IA causerà danni, dando l'IA a chiunque, è controversa tra coloro i quali sono preoccupati dal rischio di estinzione umana da parte dell'intelligenza artificiale. Il filosofo Nick Bostrom è scettico circa l'approccio di Musk: "Se hai un pulsante che potrebbe fare brutte cose al mondo, non vuoi darlo a tutti."[7] Durante una conversazione nel 2016 circa la singolarità tecnologica, Altman disse: "non abbiamo in mente di rilasciare tutto il codice sorgente" e ha fatto menzione di un piano per "permettere a vaste aree del mondo di eleggere rappresentanti per un consiglio di amministrazione" Greg Brockman dichiarò: "Il nostro scopo or ora [...] è fare la cosa migliore da fare. È un po' vago."[23]

Prodotti[modifica | modifica wikitesto]

Gym[modifica | modifica wikitesto]

Gym mira a offrire un benchmark di intelligenza generale facile da impostare, con un'ampia varietà di ambienti differenti - in qualche modo affini a, ma più ampi di, il "ImageNet Large Scale Visual Recognition Challenge" usato nelle ricerche riguardanti l'apprendimento supervisionato - e che spera di standardizzare il modo in cui sono definiti gli ambienti negli articoli scientifici sull'intelligenza artificiale, cosicché le ricerche pubblicate possano essere riprodotte più facilmente.[13][24] Il progetto afferma di fornire all'utente un'interfaccia semplice. A giugno 2017, la gym poteva essere usata solo con Python.[25] A settembre 2017, il sito di documentazione della gym non era più mantenuto, e il lavoro si concentrò nella pagina di GitHub.[26]

RoboSumo[modifica | modifica wikitesto]

In “RoboSumo”, ci sono dei robot umanoidi in “meta-apprendimento” che inizialmente non sanno neanche come camminare e, gli vengono dati gli scopi di camminare e di spingere l'avversario fuori dal ring. Tramite questo processo di apprendimento antagonistico, riescono ad adattarsi alle condizioni variabili; quando un agente è rimosso dall'ambiente virtuale e collocato in un nuovo ambiente con un forte vento, l'agente si tiene per stare dritto, il che fa capire che ha imparato come stare in equilibrio in generale.[27][28] Igor Mordatch, di OpenAI, sostiene che la competizione tra agenti può creare una "corsa agli armamenti" di intelligenza che può incrementare l'abilità dell'agente, anche al di fuori del contesto della competizione.

Debate Game[modifica | modifica wikitesto]

Nel 2018, OpenAI ha lanciato il "Debate Game", che insegna alle macchine a discutere di fronte a un giudice umano. Lo scopo è fare ricerca sul fatto che questo approccio possa aiutare nel controllare le decisioni dell'IA e nel sviluppare IA interpretabile (explainable AI), ossia un'intelligenza le cui azioni sono comprensibli da un umano.[29][30]

OpenAI Five[modifica | modifica wikitesto]

OpenAI Five è il nome di cinque bot, curati da OpenAI. usati in Dota 2, videogioco competitivo 5 contro 5; imparano a giocare contro giocatori umani ad alto livello tramite algoritmi trial and error. Prima di diventare un team di cinque, la prima dimostrazione pubblica avvenne al The International 2017, il torneo annuale del gioco, dove Dendi, un videogiocatore professionista ucraino, ha perso contro il bot in una partita in diretta uno contro uno.[31][32] Dopo la partita, il CTO Greg Brockman ha spiegato che il bot ha imparato a giocare contro se stesso per due settimane, e che il software di apprendimento era un passo avanti verso creare software che può occuparsi di problemi complessi "come essere un chirurgo".[33][34] Il sistema usa una forma di apprendimento per rinforzo, nel quale i bot imparano giocando contro se stessi per centinaia di volte al giorno per mesi, ed essendo premiati per azioni come uccidere un nemico o distruggere torri.[35][36][37] A giugno 2018, l'abilità dei bot è cresciuta fino a giocare insieme come una squadra di cinque e a battere squadre di amatori o semiprofessionisti.[38][35][39][40] Al The International 2018, OpenAI Five ha giocato due partite contro giocatori professionisti.[41][42] Sebbene i bot abbiano perso entrambe le volte, OpenAI lo considera un successo, e hanno affermato che giocare contro qualcuno dei migliori giocatori di Dota 2 ha permesso loro di analizzare e migliorare gli algoritmi per le partite future.[43]

Dactyl[modifica | modifica wikitesto]

Dactyl usa il machine learning per allenare un robot Shadow Hand da zero, usando lo stesso algoritmo di apprendimento per rinforzo che usa OpenAI Five. La mano robot è allenata interamente in simulazioni non precise dal punto di vista fisico.[44][45]

GPT2[modifica | modifica wikitesto]

GPT2 è un sistema di IA che genera del testo dati un tono e un argomento. Per esempio, quando gli è stata data in input la prima frase del romanzo 1984 di George Orwell, ha prodotto un racconto di un futuro plausibile ambientato in Cina. A differenza dei precedenti prodotti di OpenAI, GPT2 non è stato rilasciato al pubblico per evitarne un uso illecito, ad esempio la scrittura di fake news.[46]

Note[modifica | modifica wikitesto]

  1. ^ (EN) Steven Levy, How Elon Musk and Y Combinator Plan to Stop Computers From Taking Over, su medium.com.
  2. ^ (EN) Greg Brockman, Yes, we're a 501(c)(3). As you mention in /r/ControlProblem, we will file our 990 later this year as required. Not yet sure of exact date., su @gdb, 3 aprile 2017. URL consultato il 31 dicembre 2018.
  3. ^ (EN) John Markoff, Artificial-Intelligence Research Center Is Founded by Silicon Valley Investors, in The New York Times, 11 dicembre 2015. URL consultato l'8 gennaio 2019.
  4. ^ a b c d e (EN) Tech giants pledge $1bn for 'altruistic AI' venture, OpenAI, in BBC, BBC News, 12 dicembre 2015. URL consultato il 19 dicembre 2015.
  5. ^ (EN) Introducing OpenAI, su blog.openai.com, 12 dicembre 2015.
  6. ^ (EN) Max Lewontin, Open AI: Effort to democratize artificial intelligence research?, in The Christian Science Monitor, 14 dicembre 2015. URL consultato il 19 dicembre 2015.
  7. ^ a b c (EN) Cade Metz, Inside OpenAI, Elon Musk’s Wild Plan to Set Artificial Intelligence Free, WIRED, 27 aprile 2016. URL consultato il 31 dicembre 2016.
  8. ^ (EN) Dave Gershgorn, Elon Musk's Artificial Intelligence Group Opens A 'Gym' To Train A.I., in Popular Science, 27 aprile 2016.
  9. ^ (EN) Cade Metz, Elon Musk’s Lab Wants to Teach Computers to Use Apps Just Like Humans Do, WIRED. URL consultato il 31 dicembre 2016.
  10. ^ (EN) John Mannes, OpenAI’s Universe is the fun parent every artificial intelligence deserves, TechCrunch. URL consultato il 31 dicembre 2016.
  11. ^ (EN) OpenAI - Universe, su universe.openai.com. URL consultato il 31 dicembre 2016.
  12. ^ (EN) Thomas Claburn, Elon Musk-backed OpenAI reveals Universe – a universal training ground for computers, The Register. URL consultato il 31 dicembre 2016.
  13. ^ a b (EN) James Vincent, Elon Musk leaves board of AI safety group to avoid conflict of interest with Tesla, su The Verge, 21 febbraio 2018. URL consultato il 31 dicembre 2018.
  14. ^ (EN) Kate Conger, Elon Musk's Neuralink Sought to Open an Animal Testing Facility in San Francisco, in Gizmodo. URL consultato il 31 dicembre 2018.
  15. ^ (EN) John Markoff, Artificial-Intelligence Research Center Is Founded by Silicon Valley Investors, The New York Times, 11 dicembre 2015.
  16. ^ a b c (EN) Michael Liedtke, Elon Musk, Peter Thiel, Reid Hoffman, others back $1 billion OpenAI research center, in San Jose Mercury News, 15 dicembre 2015. URL consultato il 7 gennaio 2019.
  17. ^ a b c d (EN) John Markoff, Silicon Valley investors to bankroll artificial-intelligence center, in The Seattle Times, 13 dicembre 2015. URL consultato il 5 gennaio 2019.
  18. ^ (EN) Anthony Patch, Elon Musk Artificial Intelligence could be our biggest existential threat 720p, su youtube.com, 10 marzo 2018. URL consultato il 31 dicembre 2018.
  19. ^ (EN) Jessica Mendoza, Tech leaders launch nonprofit to save the world from killer robots, The Christian Science Monitor.
  20. ^ (EN) Glenn W. Smith, Re: Sex-Bots—Let Us Look before We Leap, Arts, 10 aprile 2018.
  21. ^ a b (EN) Cade Metz, Elon Musk’s Billion-Dollar AI Plan Is About Far More Than Saving the World, in Wired, 15 dicembre 2015.
    «“Altman said they expect this decades-long project to surpass human intelligence.”».
  22. ^ (EN) Vishal Sikka, OpenAI: AI for All, su InfyTalk, Infosys, 14 dicembre 2015 (archiviato dall'url originale il 22 dicembre 2015).
  23. ^ (EN) Tad Friend, Sam Altman’s Manifest Destiny, 10 ottobre 2016, The New Yorker.
  24. ^ (EN) Greg Brockman, John Schulman, OpenAI Gym Beta, OpenAI, 27 aprile 2016.
  25. ^ (EN) OpenAI Gym, OpenAI. URL consultato l'8 maggio 2017.
  26. ^ (EN) Greg Brockman, Tweet di G. Brockman su Github: "Yep, the Github repo has been the focus of the project for the past year. The Gym site looks cool but hasn't been maintained.", su Twitter, 12 settembre 2017.
  27. ^ (EN) Tom Simonite, AI Sumo Wrestlers Could Make Future Robots More Nimble, in WIRED, 11 ottobre 2017. URL consultato il 6 gennaio 2019.
  28. ^ (EN) Will Knight, OpenAI’s Goofy Sumo-Wrestling Bots Are Smarter Than They Look, in MIT Technology Review, 12 ottobre 2017.
  29. ^ (EN) Tristan Greene, OpenAI's Debate Game teaches you and your friends how to lie like robots, in The Next Web, 4 maggio 2018. URL consultato il 31 maggio 2018.
  30. ^ (EN) Steven Melendez, Why Scientists Think AI Systems Should Debate Each Other, in Fast Company, 8 maggio 2018.
  31. ^ (EN) Vlad Savov, My favorite game has been invaded by killer AI bots and Elon Musk hype, su The Verge.
  32. ^ (EN) Blair Hanley Frank, OpenAI’s bot beats top Dota 2 player so badly that he quits, Venture Beat. URL consultato il 6 gennaio 2019 (archiviato dall'url originale il 12 agosto 2017).
  33. ^ (EN) Dota 2, su blog.openai.com. URL consultato il 12 agosto 2017.
  34. ^ (EN) More on Dota 2, su blog.openai.com. URL consultato il 16 agosto 2017.
  35. ^ a b (EN) Tom Simonite, Can Bots Outwit Humans in One of the Biggest Esports Games?, WIRED, 25 giugno 2018.
  36. ^ (EN) Jeremy Kahn, A Bot Backed by Elon Musk Has Made an AI Breakthrough in Video Game World, Bloomberg. URL consultato il 27 giugno 2018.
  37. ^ (EN) Catherine Clifford, Bill Gates says gamer bots from Elon Musk-backed nonprofit are 'huge milestone' in A.I., CNBC. URL consultato il 29 giugno 2018.
  38. ^ (EN) OpenAI Five Benchmark, su blog.openai.com. URL consultato il 25 agosto 2018.
  39. ^ (EN) James Vincent, AI bots trained for 180 years a day to beat humans at Dota 2, The Verge.
  40. ^ (EN) Vlad Savov, The OpenAI Dota 2 bots just defeated a team of former pros, The Verge. URL consultato il 7 agosto 2018.
  41. ^ (EN) Tom Simonite, Pro Gamers Fend off Elon Musk-Backed AI Bots—for Now, WIRED. URL consultato il 25 agosto 2018.
  42. ^ (EN) Katyanna Quach, Game over, machines: Humans defeat OpenAI bots once again at video games Olympics, The Register. URL consultato il 25 agosto 2018.
  43. ^ (EN) The International 2018: Results, su blog.openai.com. URL consultato il 25 agosto 2018.
  44. ^ (EN) Learning Dexterity, su blog.openai.com, OpenAI. URL consultato il 27 agosto 2018.
  45. ^ (EN) Mae Ryan, Cade Metz e Rumsey Taylor, How Robot Hands Are Evolving to Do What Ours Can, in The New York Times, 30 luglio 2018.
  46. ^ (EN) Alex Hern, New AI fake text generator may be too dangerous to release, say creators, The Guardian, 14 febbraio 2019. URL consultato il 28 febbraio 2019.

Collegamenti esterni[modifica | modifica wikitesto]

Interviste[modifica | modifica wikitesto]

Controllo di autoritàVIAF (EN279153596615351900003 · GND (DE1165529815 · WorldCat Identities (EN279153596615351900003