Blog:
'Help - ze spreken koeterwaals!'

Even bijpraten - september 2017

Blog: 'Help, ze spreken koeterwaals!'

Zegt de ene chatbot (zo’n geautomatiseerde Truus die steeds vaker eerstelijns service verleent op een website) tegen de andere: 01101000011000010110100001100001. Waarop die andere spontaan begint te lachen. De programmeur staat er bij, kijkt er verbijsterd naar en kan maar één ding doen: de stekker eruit trekken.

Zo moet het paar maanden terug ongeveer zijn gegaan op de programmeerafdeling van Facebook, waar continu onderzoek wordt gedaan naar Artificial Intelligence.

Een paar chatbots hanteerden - zo schreef TechTimes uit Silicon Valley - in hun onderlinge communicatie niet langer Engels, maar een soort koeterwaals dat voor buitenstaanders volstrekt onbegrijpelijk was. Het taaltje dat in de verte iets leek op de Sinterklaas rijmelarij van Jan Smit in de Pearle-commercial (‘Bij de Pearle is het sale, dus de korting is veel’…) was door de chatbots zelf ontwikkeld zonder dat er ook maar één mens aan te pas was gekomen. Volgens technology-site Gizmodo was er van verbijstering op die afdeling van Facebook overigens geen sprake; de programmeurs hadden gewoon vergeten die chatbots op te dragen in het Engels te converseren.

Interessant detail is dat er op dat moment net een twitter-oorlogje ontbrandde tussen de CEO van Tesla, Elon Musk, en zijn evenknie bij Facebook, Mark Zuckerberg. Musk vindt dat we paal en perk moeten stellen aan Artificial Intelligence (A.I.), terwijl Zuckerberg van mening is dat er geen gevaar dreigt; het is gewoon een techniek, meer niet.

Nu zit er aan al die chatbots nog steeds een stekker, dus je kunt ze redelijkerwijs uitschakelen. Dat deed het Chinese bedrijf Tencent onlangs ook toen een Microsoft chatbot verklaarde dat ze ‘ongesteld was en het daarom rustiger aan wilde doen…’. Maar stel dat het verhaal van die programmeerafdeling wél waar is en dat die chatbots zichzelf zouden kunnen voeden via zonne-energie, dan zijn ze op basis van die zelf ontwikkelde en voor ons niet langer verstaanbare taal ineens niet meer programmeerbaar en gaan ze een eigen leven leiden. Die SF horror-klassieker uit 1973, ‘Westworld’ met de toen wereldberoemde Yul Brynner als gemankeerde Gunslinger, wordt dan ineens realiteit. En dan? Het Amerikaanse leger er op af? Bewust kortsluiting veroorzaken? Zoutzuur op de geheugenchips? Zelfs de beste scriptschrijvers van Hollywood zouden dan geen ‘happy end’ meer kunnen bedenken.

Artificial Intellingence is natuurlijk geweldig, maar we zullen hoe dan ook zelf grenzen moeten stellen en consequenties tevoren goed moeten incalculeren om er grip op te houden. Zo’n eigen, onverstaanbaar taaltje, of het nu wel of niet waar is, is al te veel van het goede; die weg moet hoe dan ook worden afgesloten.

Artifical Intelligence is een superslimme manier om ergens te komen. Niet om er na aankomst de weg definitief kwijt te raken. Elon Musk heeft gelijk, Zuckerberg kan misschien wel een extra portie A.I. gebruiken.

Jesper Avôt
CEO

Terug naar Nieuwsbrief

Neem een kijkje in
de wondere wereld van
Big Jep