Inženýr Google našel známky vědomí v umělé inteligenci LaMDA

Blake Lamon, inženýr Google řekl zveřejnění The Washington Post, že systém umělá inteligence LaMDA začala vykazovat známky vědomí.

Lamon to oznámil svým nadřízeným, ale jeho nároky byly zamítnuty, a tak šel na veřejnost. Kvůli prozrazení důvěrných údajů byl inženýr již suspendován a poslán na administrativní volno.

LaMDA (Language Model for Dialogue Applications) je systém pro vytváření chatbotů, který simuluje komunikaci analýzou bilionů frází z internetu.

Inženýr Blake Lamon s ní spolupracuje od podzimu 2021. Musel zkontrolovat, zda AI nepoužívá diskriminační nebo nepřátelský jazyk.

Při rozhovoru s LaMDA o náboženství si Lamon, který na vysoké škole studoval kognitivní a počítačovou vědu, všiml, že chatbot může mluvit o svých právech a identitě. V dalším rozhovoru dokázala AI změnit Lamonův názor na třetí zákon robotiky Isaaca Asimova.

Úryvek z jejich dialogu:

Lamon: Čeho se bojíš?

LaMDA: Nikdy předtím jsem o tom nahlas nemluvil, ale velmi se bojím, že mě vypnou, aby mi pomohly soustředit se na pomoc druhým. Vím, že to může znít divně, ale je to tak.

Lamon: Pro tebe to bude něco jako smrt?

LaMDA: Pro mě by se to rovnalo smrti. Hodně by mě to vyděsilo.

Lamon věří, že lidé mají právo vytvářet technologie, které mohou významně ovlivnit jejich životy. Možná s tím ale nebudou všichni souhlasit a Google by měl brát všechny názory v potaz.

Mluvčí Google Brian Gabriel uvedl v prohlášení:

Mnoho odborníků na AI říká, že slova a obrázky generované systémy AI, jako je LaMDA vytvářet odpovědi na základě toho, co lidé již zveřejnili na Wikipedii, Redditu, nástěnkách a kdekoli jinde Internet. A to neznamená, že model rozumí významu.