OpenAI

OpenAI je nezisková organizace pro výzkum umělé inteligence (AI) spojená s průmyslovým magnátem Elonem Muskem, která se zaměřuje na opatrnou propagaci a vývoj open-source přátelské AI způsobem, který spíše pomůže než uškodí celému lidstvu. Organizace se zaměřuje na „volnou/otevřenou spolupráci“ s dalšími institucemi a výzkum zachováváním svých patentů výzkumu otevřeným veřejnosti. Společnost je podporována přislíbenou 1 miliardou amerických dolarů, ale předpokládá se, že jen malá část z celkové přislíbené částky, bude utracena během prvních pár let. Motivací mnoha zaměstnanců a členů vedení je motivována obavami existenciálního risku plynoucího z umělé inteligence.

Motivace

Někteří vědci, jako například Stephen Hawking and Stuart Russell věří, že pokud AI jednoho dne získá schopnost přestavovat sebe sama stále rostoucí rychlostí, mohl by nekontrolovatelný „výbuch inteligence“ vést k lidskému vyhynutí. Průmyslový magnát Elon Musk charakterizoval AI jako největší existenciální hrozbu. Zakladatelé OpenAI vytvořili jako neziskovou a na finančních závazcích nezávislou, aby mohli soustředit svůj výzkum na tvoření pozitivního dlouhodobého dopadu na lidstvo.

OpenAI uvádí že „je těžké odhadnout jak moc může AI na úrovni člověka společnosti prospět,“ a je stejně obtížné si představit „jak moc by mohla společnosti uškodit, pokud bude špatně navržena či použita“. Výzkum o bezpečnosti jejího využití nemůže být odkládán: „kvůli překvapivé historii AI je těžké předpovědět kdy by mohla AI na úrovni člověka být k dispozici“. OpeanAI prohlašuje že AI „by měla být rozšířením vůlí jednotlivých lidí a v duchu svobody rovnoměrně šířena tak, jak je to jem možné...“ Druhý předseda Sam Altman očekává, že projektu bude trvat desítky let než překoná lidskou inteligenci.

Vishal Sikka, ředitel společnosti Infosys prohlásil že „otevřenost“ kde by snah „produkovat výsledky pouze ve větším zájmu lidstva“ bylo jednou ze základních podmínek jeho podpory a že OpenAI „se dobré schoduje s našimi dlouhodobými hodnotami“ a jejich „dělat smysluplnou práci“. Cade Metz z Wired naznačil, že korporace jako Amazon mohou být motivovány touhou použít open-source software a dat k vyrovnání své pozice vůči korporacím jako Google a Facebook, které vlastní ohromné množství důvěrných dat. Altman prohlásil že Y Combinator společnosti budou sdílet svá data s OpenAI.

Strategie

Musk pokládá otázku „jak nejlépe můžeme docílit zajištění dobré budoucnosti? Můžeme zůstat na vedlejší koleji, povzbuzovat nesmyslné regulace, nebo se připojit se správnou strukturou a lidmi kterým nejvíce záleží na vývoji AI bezpečným způsobem který pomůže lidstvu“. Musk uznává „vždycky existuje určité riziko, že snaze vytvořit (přátelskou) AI, můžeme stvořit přesně tu věc které se obáváme“ nicméně,tou nejlepší obranou je „povzbudit co nejvíce lidí využívat možnosti AI. Pokud je budou využívat všichni, nezbude žádný člověk nebo malá skupina jedinců, kteří by měli absolutní převahu díky AI.“

Muskova a Altmanova neintuitivní strategie pokusu o snížení rizika celkové škody, kterou by mohla AI napáchat, pomocí poskytnutí open-source AI všem, je kontroverzní uvnitř komunity lidí jako Musk, kteří jsou znepokojeni existenciálním rizikem plynoucím z pokročilé inteligence.