Lijkt me dus heerlijk hè, om een chatbot zo te manipuleren dat je opeens een nieuwe Chevy Tahoe 2024 kunt kopen voor $1,-. Hoef ik daarna alleen nog te wachten tot het CBR ook een chatbot installeert en dat koppelt aan hun systemen, zodat ze me een rijbewijs geven, anders heb ik zo weinig aan die auto. Ik heb namelijk geen rijbewijs. Driving is for chauffeurs, zei hij altijd. Niet dat hij vaak goed advies geeft, maar deze klonk zo logisch dat het vast wel zal kloppen en ik het ter harte heb genomen.
De chatbot van Cheverolet Watsonville draaide op ChatGPT. De lokale autoverkoper heeft iets te makkelijk gedacht over het gebruiken van de chatbot. Installeren was kinderspel, maar wat er fout kon gaan hadden ze kennelijk niet erg over nagedacht.
Nou moge duidelijk zijn dat een manipulatie als deze natuurlijk nooit stand houdt bij de rechter. Dus so far, so good.
Dat ging bij Air Canada wel anders, in 2022 al. Een man moest last minute een vlucht van Vancouver naar Toronto boeken om naar de begrafenis van zijn oma te kunnen. Hij vroeg aan de chatbot van Air Canada of ze speciale tarieven hadden voor een vlucht in verband met een begrafenis. Dat zou er zijn. Hij moest dan nu het volledige bedrag betalen en binnen 90 dagen alsnog via een formulier om de korting vragen. Zo gezegd zo gedaan. Hij betaalde $1209,- en verwachtte daar ongeveer de helft weer van terug te krijgen. Maar dat gebeurde niet. Het beleid van Air Canada is namelijk dat je vooraf om deze korting moet vragen en het niet achteraf meer kunt claimen. Dat stond ook zo in de FAQ op de website en de chatbot zou een eigen juridische entiteit zijn, waar Air Canada niet aan gebonden zou zijn.
De rechter oordeelde daar anders over. De chatbot is geen eigen juridische entiteit en een klant hoeft niet de website uit te pluizen om te achterhalen of wat de chatbot heeft gezegd wel juist was. De klant hoeft in het geheel niet te weten welke informatie boven het andere zou gaan. Hij kreeg zijn korting, inclusief juridische kosten, alsnog gestort.
En nu denk je vast: “Ach, dat is allemaal in het buitenland. Dat gebeurt hier niet.” Nou, het is hier vooral nog niet in het nieuws geweest. En wellicht waren de bedragen nog niet hoog genoeg om ervoor naar de rechter te gaan. Want ook bij winst kan een rechtszaak je geld kosten.
Op reddit schreef iemand dat hij op de site van de kaakchirurg aan de AI assistent, een chatbot, had gevraagd wat de intake voor het trekken van verstandskiezen zou kosten. Het antwoord was: “Goedemiddag bij (naam plek) is de eerste intake voor het verwijderen van verstandskiezen altijd kosteloos.” Telefoons maakte deze persoon vervolgens een afspraak en vroeg voor de zekerheid nog eens naar de kosten. Toen bleek opeens dat het niet kosteloos was.
Daar had deze beste persoon wel op mogen vertrouwen. Een intake, waarbij er dus nog geen verstandskiezen getrokken worden, zou immers best gratis kunnen zijn. Het is tenslotte niet ongebruikelijk dat een kennismaking of intake gratis is en je daarna bepaalt of je echt klant wil worden. Dus waarom zou een kaakchirurg dat ook niet aan kunnen bieden? Een disclaimer helpt hierbij niet, in Nederland. Bovendien zou met een disclaimer de waarde van de chatbot precies 0 zijn. Want het enige dat je dan zeker weet, is dat je niet zeker kunt weten of het antwoord klopt, zelfs niet als het wel logisch klinkt. Daarom werkt het juriisch anders.
Op een redelijk antwoord mag je altijd vertrouwen.
Zoals de gratis intake bij de kaakchirurg of een redelijke korting op je vlucht vanwege een begrafenis. En dat geldt dus ook voor informatie die de overheid geeft, via een persoon, maar dus ook via een chatbot.
Op een antwoord waarvan je weet dat het nooit zou kunnen kloppen, zoals de afspraak een gloednieuwe auto te mogen kopen voor $1,-, mag je natuurlijk niet vertrouwen.
Misschien toch even kijken of ik nog ergens een chatbot kan vinden die me wat extra korting op abonnementen wil geven ofzo, ondanks dat ik geen nieuwe klant ben.
