Chatbots van Facebook ontwikkelen eigen geheimtaal

Chatbot

Chatbots kunnen ontzettend handig zijn, maar dan moet je ze wel kunnen begrijpen. Bij een experiment met kunstmatige intelligentie bij Facebook bleek dat echter niet langer het geval. De twee robots Alice en Bob ontwikkelden namelijk een eigen geheimtaal, zodat ze gemakkelijker met elkaar konden praten. Dat meldt het AD.

De twee chatbots konden onder meer hoeden, boeken en ballen verkopen. Ieder voorwerp had een eigen waarde, de robots moesten er over onderhandelen. Op die manier moest er onderhandelingssoftware ontwikkeld worden die zo goed was, dat als je er mee sprak je niet doorhad dat je met een robot bezig was.

Maar zodra de robots werden ‘losgelaten’ op de algoritmes om hun gesprekken beter en efficiënter te maken, ging het mis. De chatbots begonnen vreemde codewoorden en herhalingen te gebruiken. Zo zei Bob: “Ik kan ik ik alle andere dingen.” Alice reageerde: “Ballen hebben nul voor mij voor mij voor mij voor mij voor mij voor mij voor mij voor mij.” Geen speld tussen te krijgen dus.

Maar de chatbots werden wel degelijk ‘slimmer’. Zo deden ze volgens de onderzoekers van het Facebook Artificial Intelligence Research Lab (FAIR) bijvoorbeeld alsof ze een voorwerp leuk vonden, om het later ‘op te offeren’ om zo een (valse) compromis te sluiten.

Stilgelegd

Het doel van het experiment was om aan te tonen dat twee chatbots met “verschillende doelen” konden onderhandelen met andere bots of mensen. Uiteindelijk moesten ze dan op een gezamenlijke beslissing uitkomen. Hoewel een geheimtaal eng klinkt, deden de robots exact dat, al begrepen wij er weinig van.

Natuurlijk was het doel ook dat mensen de bots zouden begrijpen. En daar ging het dus mis: er was niet aangegeven dat de bots ook alleen maar de regels van de Engelse taal moesten volgen op een manier die mensen begrijpen. De bots probeerden te leren van elkaar en begonnen te werken met een eigen snelschrift.

Uiteindelijk is het gesprek wel stilgelegd. Het was immers niet het resultaat wat ze wilden: Facebook wilde bots maken die met mensen kunnen praten. Een manier om efficiënt met een andere bot te praten was niet het resultaat dat de wetenschappers voor ogen hadden.

Bovendien is het niet voor het eerst dat een kunstmatige intelligentie een eigen taal ontwikkeld. Wetenschappers ontdekten vorig jaar dat Google Translate dat ook had gedaan.