Meta heeft aangekondigd dat ouders vanaf volgend jaar hun tieners kunnen beperken of blokkeren om te chatten met de AI-personages van het bedrijf op Instagram. De techgigant belooft nieuwe toezichttools die ouders meer inzicht en controle geven over de soorten chatbotinteracties waartoe hun kinderen toegang hebben.
Tieners zullen nog steeds gebruik kunnen maken van Meta’s algemene AI-assistent, maar privégesprekken met individuele AI-personages, inclusief degenen die door andere gebruikers zijn ontworpen, kunnen door ouders gedeeltelijk of volledig worden uitgeschakeld.
Veilige chats
Chatbots beantwoorden tegenwoordig niet simpelweg vragen; het zijn gepersonaliseerde gesprekspartners geworden waar mensen, goed of slecht, zich emotioneel aan kunnen hechten. Meta wil de risico’s van dit soort AI-gesprekken zichtbaar maken, of ouders op z’n minst een manier geven om te kunnen zien wat er gebeurt.
De mogelijkheid om gespreksonderwerpen te monitoren zonder elk bericht te lezen, is een poging om tienerprivacy te balanceren met ouderlijk toezicht. Het is een dunne lijn, maar wel een die laat zien hoe snel AI de aard van online gesprekken heeft veranderd, vooral voor jongere gebruikers.
Voor de gemiddelde familie kunnen de veranderingen wat gemoedsrust bieden, maar ze dienen ook als waarschuwing: de telefoon van je kind is niet langer slechts een venster naar online content. Het is een toegangspoort tot interactieve “personages” die ze misschien als echter beschouwen dan goed voor hen is.
Het zal waakzaamheid vergen, zowel van ouders als van ontwikkelaars, om dit soort interacties veilig te houden. En als Meta en andere ontwikkelaars daarin falen, kunnen ze rekenen op flink wat kritiek.
