Google DeepMind en de Singaporese overheidsdienst GovTech ontwikkelen een AI-model dat oplichting in gesprekken op de telefoon moet herkennen. De aankondiging van 14 oktober beschrijft hoe dat zonder centrale verwerking van privƩgesprekken kan werken; of de bescherming betrouwbaar genoeg is, valt er nog niet uit af te leiden.
| Wat je moet weten |
|---|
| Aankondiging: DeepMind beschreef op 14 oktober een samenwerking met GovTech Singapore. |
| Werking: Een lichte berichtfilter selecteert verdachte berichten; Gemma beoordeelt daarna meer gesprekscontext. |
| Privacy: De gespreksanalyse moet op het toestel plaatsvinden, met toestemming van de gebruiker. |
| Beschikbaarheid: De invoering wordt gefaseerd; een openbare startdatum en ondersteunde apps zijn nog niet bekend. |
Wel cloudtraining, geen centrale gespreksanalyse
Volgens de officiƫle toelichting van DeepMind is Gemma aangepast aan lokale oplichtingsgesprekken. Het model moet bijvoorbeeld misleiding herkennen waarbij iemand zich voordoet als een bank of overheidsinstantie. Een eerste, zuinige filter bekijkt inkomende berichten. Alleen bij een verdachte uitkomst krijgt Gemma een groter deel van het gesprek te beoordelen.
Die scheiding maakt het verschil tussen een los verdacht woord en de opbouw van een gesprek relevant. De tweede beoordeling kan volgens het beschreven ontwerp een dreiging bevestigen of een vals alarm verwerpen. Dat verklaart het doel van de twee stappen, maar bewijst nog niet hoeveel terechte waarschuwingen gebruikers krijgen.
Voor het aanpassen van het model gebruikte GovTech een afgeschermde Google Cloud-omgeving. De latere analyse van gesprekken moet juist lokaal gebeuren. Cloudtraining en verwerking op de telefoon zijn dus twee verschillende onderdelen. Wie de privacybelofte beoordeelt, moet kijken naar de toegang tot eigen gesprekken tijdens gebruik, naast de herkomst van trainingsgegevens.
Welke gegevens ontbreken voor een gebruiksoordeel?
TechRepublic wees op 15 oktober op ontbrekende informatie over ondersteunde toestellen en apps, de nauwkeurigheid en het aantal valse meldingen. Ook de openbare startdatum is nog onbekend. Zonder die gegevens is niet vast te stellen op welke telefoon de bescherming werkt of hoe vaak een gewoon gesprek onterecht wordt onderbroken.
Voor Nederlandse lezers is dit daarom een ontwerp om te volgen, geen aangekondigde functie die zij nu kunnen inschakelen. De beschreven samenwerking betreft Singapore. Bij een eventuele bredere introductie worden de app, gevraagde toestemming en gepubliceerde testresultaten de relevante vergelijkingspunten. Een waarschuwing tijdens een gesprek kan pas op waarde worden geschat als duidelijk is wat het systeem mist en wanneer het onterecht alarm slaat.
