Elon Musk vyzval k pozastavení velkých experimentů s AI
Různé / / April 03, 2023
Podporovali ho přední průmysloví výzkumníci.
Nezisková organizace Future of Life Institute zveřejnila otevřený dopis podepsaný Elonem Muskem, spoluzakladatelem Applu Steve Wozniak, spoluzakladatel Skype Jaan Tallinn, stejně jako další výzkumníci a manažeři AI z velkých společností.
Dopis tvrdí, že laboratoře jsou uzavřeny v „závodě mimo kontrolu“ ve vývoji a aplikaci systémy strojového učení, kterým „nikdo – ani jejich tvůrci – nemůže porozumět, předvídat nebo s jistotou řízení". Zde je to, co autoři navrhují:
Vyzýváme všechny laboratoře umělé inteligence, aby okamžitě pozastavily školení na systémech umělé inteligence větších než GPT-4 po dobu nejméně 6 měsíců. Pozastavení operací musí být veřejné a ověřitelné a musí být zapojeni všichni klíčoví hráči. Pokud nebude možné se v blízké budoucnosti zastavit, měly by zasáhnout vlády zemí a uvalit moratorium.
Od Pauza Giant AI Experiments: An Open Letter
Dopis také vyjadřuje nespokojenost s pozicí „uvolníme to tak, jak to je, opravíme to později“ při vývoji neuronových sítí (pamatujte alespoň
bard od Googlu). Dokonce Otevřete AI již zvýšil potenciální potřebu budoucích auditů zabezpečení AI. Autoři dopisu věří, že tato budoucnost již dorazila.Vývojáři AI a nezávislí odborníci by měli tuto přestávku využít ke společnému vývoji a implementaci jednotné bezpečnostní protokoly pro komplexní systémy AI, jejichž dodržování bude kontrolováno externí nezávislou osobou Odborníci. Takové protokoly pomohou zajistit, že systémy jsou dostatečně bezpečné pro použití.
Od Pauza Giant AI Experiments: An Open Letter
Celý text dopisu si lze přečíst Tady.
Přečtěte si také🧐
- Jak používat ChatGPT v Telegramu a rychle získat odpovědi na jakékoli otázky bez prohlížeče
- Jak používat GPTZero, textový vyhledávací nástroj vytvořený ChatGPT
- „ChatGPT nenahradí práci specialisty“: rozhovor s odborníkem na Web 3.0 Stasem Ustenkem