Robot, který o sobě ví

Škrabáci v Echo24.cz naletěli na kanadský žertík a veřejně ho šíří s vážnou tváří. Tím urážejí obecenstvo.

Historický mezník: robot si uvědomil sám sebe

Vědci z newyorské technické školy sestrojili tři roboty, kterým dali k vyřešení jeden z klasických indukčních rébusů. K velkému překvapení jeden z robotů testem prošel a je si tedy vědom sám sebe.

Výzkumníci z Rensselaer Polytechnic Institutue v New Yorku se rozhodli otestovat své tři Nao roboty variantou klasického indukčního rébusu Králův rádce. Robotům bylo řečeno, že dva z nich nemohou mluvit, protože dostali „pilulku oněmění.“ Poté se všech tří zeptali, kdo z nich stále mluvit může.

Nejdříve to vypadá, že roboti nejsou schopní problém vyřešit. [Nevidím tu problém k řešení] Jeden z nich se postaví a řekne, že neví správnou odpověď, pak si ale uvědomí vlastní hlas a dodá: „Promiňte, teď už to vím. Právě jsem dokázal, že já jsem pilulku nedostal.“

Rébus je variantou klasického indukčního testu Králův rádce. Ten spočívá v tom, že si král pozve na svůj zámek tři moudré muže, aby rozhodl, který se stane jeho rádcem. Každému z nich dá na hlavu klobouk, který může mít modrou nebo bílou barvu. Nejméně jeden klobouk musí být modrý, ale mohou být modré také dva nebo všechny tři. Zároveň je upozorní, že soutěž bude férová pro všechny tři.

Tím, že robot prošel tímhle základním testem, dokázal, že si je vědom sám sebe, i když se jedná pouze o základní formu sebeuvědomění.

Pod článkem je beseda —

… každý ze tří vězňů dostane modrý nebo bílý klobouk, každý vidí jen barvu ostatních klobouků, a je jim (popravdě) řečeno, že alespoň jeden klobouk je modrý. Ve chvíli, kdy si někdo tipne barvu svého klobouku, se posoudí, zda si tipnul správně. Pokud ano, pustí je na svobodu.

Ve skutečnosti dostanou všichni modré klobouky. Vtip je v tom, že to těm vězňům časem dojde.

Spočívá to v následujících úvahách.

(1) Pokud vidím dva bílé klobouky, musím nutně mít modrý klobouk.

(2) Pokud vidím jeden bílý a jeden modrý klobouk a nikdo se nějakou dobu neozývá, patrně mám modrý klobouk. Jinak by totiž ten s modrým kloboukem mohl provést úvahu (1) a správně uhodnout barvu svého klobouku.

(3) Pokud vidím dva modré klobouky a opravdu dlouho se nikdo neozývá, pak je to tím, že patrně všechny klobouky jsou modré. Jinak by někdo z těch dvou už mohl provést úvahu (2).

Analogie robotické hříčky s hádankou o kloboucích neexistuje. Co by se stalo —

Situace 1 — všechny tři roboty jsou naprogramované stejně. Programátoři jim řeknou, „Dva z vás nemohou mluvit.“

Roboty jsou naprogramované tak, že „vědí,“ že jsou tři.

Robot A pracuje, „Mohu já mluvit? Já zkusím promluvit. Co já řeknu? ‚Já mohu mluvit.‘“ A řekne to. To „já“ se dá lehce naprogramovat, aniž by to mělo co dělat s vědomím. Také „o sobě“ může mluvit jako o A.

Ve stejnou chvíli to samé udělají i roboty B, C. Výzkumníci jsou z toho vedle.

Situace 2 — roboty A a B vskutku dostanou příkaz „Nemohu mluvit.“ Může to být udělané tak, že robot „neví,“ jestli příkaz dostal. Proto se pokusí promluvit — a ono to nejde.

Robot C „ví,“ že byl dán příkaz „Dva roboty nemohou mluvit“ a otázka „Které to jsou?“ Robot C pracuje, „Mohu já mluvit? Co bych já řekl? ‚Já to nejsem.‘“ — A řekl by to.

To všechno nemá se „sebeuvědoměním“ co dělat.

„Řešení“ hříčky se třemi klobouky v besedě pod článečkem je vágní, proto jsem si ho sestavil — ale trvalo to!

Tři roboty by dostaly úkol: „Máte bílý nebo modrý klobouk, ale aspoň jeden je modrý. Jaký máte klobouk?“ (Všechny klobouky jsou modré.)

Všechny tři roboty vidí dva modré klobouky. Proto všechny tři vědí, že existuje jeden, nebo žádný bílý klobouk. To jim neumožní vědět, jaký klobouk mají.

Robot A spekuluje — „Nechť mám modrý klobouk. Pak by C spekuloval — ‚kdybych měl bílý klobouk, byl by jeden bílý. A ani B by nevěděli, jaký mají klobouk. Kdybych měl modrý klobouk, byly by tři modré. A ani B by nevěděli, jaký mají klobouk. Ale já nevím, jaký mám klobouk.‘“

Robot A spekuluje — „Nechť mám bílý klobouk. Pak by C spekuloval — ‚kdybych měl bílý klobouk, byly by dva bílé a B by proto věděl, že má modrý klobouk. Ale B to neví. Proto mám modrý klobouk.‘“

Ale C to neohlásí. Z toho robot A soudí — „C neví, jaký má klobouk. Proto já nemám bílý klobouk.“

Robot A spekuluje dál — „Kdybych měl modrý klobouk, A by nevěděl, jaký má klobouk, ani B by nevěděl, jaký má klobouk.“

Ve světě lidí jde o rychlost myšlení, o bystrost, proto jeden mudrc by odpověděl první. Ale roboty by měly odpovědět všechny tři najednou. Neb všechny tři by spekulovaly stejně.

Otázka je, jestli robot je schopný takto „myslet“ bez toho, aby mu ty kroky byly výslovně naprogramované. Já tuším, že není.

Post scriptum

Secondly and crucially, it heard its own voice and finally used this information to give the correct answer.

Z toho mudrlanti soudí na “self awareness” robota. Popis tu je extrémně obtížný, protože říct vědět je hned nechtěně znečištěné lidským vědět. Stejně tak já, které se dá robotu naprogramovat, je v popisu hned nechtěně znečištěné lidským vědomím.

Ale tak se to neděje. Robot „ví,“ tak jak roboty vědí, že mluvil — když je k tomu naprogramován. Proti tomu robot, který varuje pilota, neví, že mluví — “Terrain. Pull up.”

I můj obyčejný počítač hojně řeční, byť jen písmem — a neví o tom. K ničemu by mu to nebylo, kdyby to „věděl“ — ale dal by se k tomu naprogramovat.

All three initially couldn'tsolve the problem and said “I don't know,” but when only one of them made the noise, the robot in question heard its own voice and then followed up: “Sorry, I know now!”

Řečeno s humorem, robot to mohl „poznat“ i z toho, že ty druhé dva byly zticha. Ani trochu se to nepodobá hříčce s třemi klobouky.

Oba roboty, které nemohly promluvit, musely „poznat“ řešení, když ten třetí promluvil — jestli byly programované tak, aby „věděly,“ který z těch dvou jiných mluví. Úkol nebyl „férový.“

Post scriptum 24. srpna 2015

“The King called the three wisest men in the country to his court to decide who would become his new advisor. He placed a hat on each of their heads, such that each wise man could see all of the other hats, but none of them could see their own. Each hat was either white or blue. The king gave his word to the wise men that at least one of them was wearing a blue hat - in other words, there could be one, two, or three blue hats, but not zero. The king also announced that the contest would be fair to all three men. The wise men were also forbidden to speak to each other. The king declared that whichever man stood up first and announced the color of his own hat would become his new advisor.”

Poslal jsem tuto hádanku o třech kloboucích synovci, a odpověděl mi jednou větou, „Aby byla úloha spravedlivá, musí vidět všichni tři to samé, proto mají všichni modré klobouky.“

Jak mám dlouhé vedení, musel jsem si to rozepsat. Mudrc přemýšlí, „Kdyby dva klobouky byly bílé, ten s modrým by hned věděl řešení, a ti s bílými klobouky by nemohli znát řešení, úloha by pro ně byla nespravedlivá. Proto nechť je bílý klobouk jeden. A spolu s předchozí myšlenkou, ti dva, kteří by ho viděli, by hned znali řešení. Pro toho v bílém klobouku by to bylo nespravedlivé, protože by řešení nepoznal.“