OpenAI varovalo před objevem umělé inteligence, která by mohla ohrozit lidstvo
Různé / / November 23, 2023
Tajný projekt s názvem Q* mohl být jedním z důvodů propuštění Sama Altmana.
Den před vyhnanství Generální ředitel OpenAI Sam Altman, několik výzkumných pracovníků společnosti napsalo představenstvu dopis varující před objevem silné umělé inteligence, která by podle nich „mohla ohrozit k lidstvu." O tom s odkazem na naše vlastní zdroje píše Reuters.
Právě tento dopis byl citován jako jeden z faktorů v dlouhém seznamu stížností představenstva, které vedly k Altmanovu odvolání. Reuters nemohla osobně mluvit s autory ani získat komentář od OpenAI. Po takové žádosti však společnost v interní zprávě zaměstnancům oznámila existenci určitého projektu s názvem Q* (vyslovujte Q-Star).
Někteří zaměstnanci OpenAI se domnívají, že Q* by mohl být průlom v tzv obecná umělá inteligence (AGI). OpenAI jej charakterizuje jako autonomní systém, který překonává lidi ve většině ekonomicky cenných úkolů.
Podle jednoho zdroje může Q* zatím provádět matematické úlohy pouze na elementární úrovni. školy, ale úspěšné absolvování takových testů dává výzkumníkům velký optimismus, pokud jde o vyhlídky na to rozvoj.
Hlavní rozdíl mezi takovou umělou inteligencí je v tom, že dokáže stanovit cíle, rozdělit složité problémy na malé, pracovat napříč širokou škálou problémů a najít řešení s přihlédnutím ke kontextu z různých domén. Jednoduše řečeno, taková inteligence může teoreticky nahradit vysoce kvalifikovaného specialistu se znalostmi, dovednostmi a rozsáhlými zkušenostmi.
Vědci věří, že matematika je špičkou generativní umělé inteligence. V dnešní době umí dobře psát a překládat, statisticky předpovídá další slovo a odpovědi na stejnou otázku se mohou velmi lišit. Ale dobývání matematiky (kde existuje pouze jedna správná odpověď) znamená, že AI bude mít širší uvažovací schopnosti, které se podobají lidské inteligenci. To lze aplikovat například na nový vědecký výzkum, říkají odborníci.
Ve svém dopise představenstvu vědci zaznamenali sílu AI a potenciální nebezpečí. Zaznamenali také práci zvláštní skupiny „vědců umělé inteligence“, jejíž existenci potvrdily četné zdroje. Tým studuje, jak optimalizovat stávající modely umělé inteligence, aby se zlepšilo jejich uvažování a nakonec s nimi mohl provádět vědeckou práci, řekl jeden z lidí.
Altman vedl úsilí, aby se ChatGPT stala jednou z nejrychleji rostoucích softwarových aplikací v historie a přilákala investice a výpočetní zdroje od společnosti Microsoft nezbytné k tomu, aby to přineslo AGI. A krátce před svým odvoláním na summitu světových vůdců v San Franciscu oznámil některé „vážné úspěchy, které jsou hned za rohem“.
Čtyřikrát v historii OpenAI, naposledy před pár týdny, jsem musel být v místnosti, kdy jakoby odhrneme závoj nevědomosti a přiblížíme se k hranici objevů, a to je profesionální čest všech život.
Sam Altman
O den později rada Altmana vyhodila.
Možná se jednoho dne všechna tato rozhodnutí a události stanou základem knihy, celého filmu nebo dokonce učebnice dějepisu.
Přečtěte si také o AI🤖🧐🤖
- 7 analogů ChatGPT
- Lidé od Applu představili AI Pin – náhradu za smartphone bez obrazovky na bázi ChatGPT
- 8 mýtů o umělé inteligenci, kterým věří i programátoři