De grenzen tussen AI en mensen vervagen. De AI toepassingen veranderen in virtuele vrienden en vriendinnen om mee te praten. Het kan leuk en behulpzaam zijn, maar wetenschappers zien ook risico’s. Actrice Scarlett Johansson trekt inmiddels van leer tegen het gebruik van een stem die verdacht veel op die van haar lijkt.
Mensen verliezen zichzelf
Docent ethiek en technologie aan de TU Delft Olya Kudina zegt tegen de NOS: “Er zit er veel technologische vooruitgang in AI. Maar als nadruk wordt gelegd op het menselijke aspect, dan is dat voor mij spelen met vuur.” Ze maakt zich zorgen over het vervagen van de grens tussen mensen en AI. Want hoewel zo’n AI-stem echt overkomt, blijft het in de kern technologie zonder enige vorm van gevoel. Mensen verliezen zichzelf hierin en onderscheiden het echte leven niet meer van de virtuele wereld, met alle gevaren van dien.
Jezelf verliezen in AI
Het gebruik van een chatbot (ChatGTP) waarmee iemand een persoonlijke band krijgt, is in de ogen van Marjolijn Antheunis, hoogleraar aan de Tilburg University niet perse fout. Ze doet samen met universitair docent Emmelyn Croes onderzoek naar de relatie tussen mensen en dit soort AI-systemen.
“Als je de chatbot gebruikt om een bepaalde eigenschap te oefenen of iets te verwerken, kan dat goed helpen”, zegt Croes. Ze benadrukt dat dit tijdelijk moet zijn en dat de persoon niet moet ‘verdwijnen’ uit het echte leven.
Ethische grens AI
Ondertussen wordt hard gewerkt aan het almaar menselijker maken van AI, ziet Antheunis. “Zij hebben als doel de interactie zo echt mogelijk te maken. Dan blijf jij langer met die machine praten.” Daar ligt volgens haar een ethische grens. De chatbot zou continu transparant moeten zijn over dat het een machine is, en geen mens. Dat zien AI ontwikkelaars anders.
Gebruikers horen stem Scarlett Johansson
OpenAI kondigt inmiddels aan te stoppen met het gebruik van een virtuele stem in chatbot ChatGPT. De stem, met de naam Sky, lijkt op die van Scarlett Johansson. De actrice tekent hierover protest aan. De stem is onderdeel van een verbeterde versie van ChatGPT, die vorige week werd gelanceerd. Al snel hoorden gebruikers de stem van Johansson erin.
Lees verder onder bericht >>
We’ve heard questions about how we chose the voices in ChatGPT, especially Sky. We are working to pause the use of Sky while we address them.
— OpenAI (@OpenAI) May 20, 2024
Read more about how we chose these voices: https://t.co/R8wwZjU36L
Johansson geschokt, boos en vol ongeloof
Lees onder bericht verder >>
Scarlett Johansson on Sam/OpenAI.
— Jacob (@JacobJaber) May 20, 2024
I’m a fan of Open ai but I suspect there are more examples like this under the hood of Open ai’s culture. pic.twitter.com/pdeuOqDTR8
In een bericht op X laat OpenAI weten: “We hebben vragen gekregen over hoe we de stemmen in ChatGPT hebben gekozen, met name Sky. We gaan het gebruik van Sky onderbreken.”
Scarlett Johansson sloeg OpenAI aanbod af
Johansson zegt dat OpenAI haar in september een aanbod heeft gedaan om de stem van ChatGPT te worden. De actrice, sloeg het aanbod af en laat weten “geschokt, boos en vol ongeloof” te zijn dat het bedrijf een stem gebruikte die “griezelig veel” klonk als die van haar. De actrice voelt zich genoodzaakt juridische stappen te zetten.
ABC news over de stem van de OpenAI chatbot
Bekijk de nieuwsuitzending hieronder terug >>
Bronnen: X en NOS
Hoofdfoto: Paul Morigi / Freelancer (Getty Images)