Google heeft op 4 november een beoordelingskader voor AI bij gezondheidsvragen gepubliceerd. Het bedrijf wil nauwkeurigheid, veiligheid en bruikbaarheid afzonderlijk toetsen, met zowel automatische tests als menselijke deskundigen. De bijbehorende onderzoekspublicatie verbindt die beoordeling aan de ontwikkeling en het latere gebruik van een toepassing. Daarmee krijgt de vraag wat een goede testscore in de praktijk zegt een concretere uitwerking.
| Wat je moet weten |
|---|
| Google deelde het beoordelingskader op 4 november; de onderzoekspublicatie staat sinds 3 november op arXiv. |
| De methode beoordeelt nauwkeurigheid, veiligheid en bruikbaarheid als afzonderlijke onderdelen. |
| De onderzoekers combineren gesloten testvragen, AI-beoordelaars en menselijke deskundigen. |
| Het raamwerk omvat ook controle na ingebruikname; de aankondiging is geen klinisch keurmerk. |
Een test begint bij het gebruik
In de aankondiging van Google beschrijft Sarah Montgomery-Taylor, verantwoordelijk voor klinische evaluatie bij Google for Health, de samenwerking met zorgdeskundigen Elizabeth McGlynn en Dana Gelb Safran. Volgens Google moet de combinatie van beoordelingsmethoden zowel veelvoorkomende gezondheidsvragen als situaties met een hoog risico bestrijken.
De onderzoekssamenvatting op arXiv begint bij concrete gebruikssituaties, aangeduid als Critical User Journeys. Die worden gekoppeld aan drie fasen: ontwikkeling van het basismodel, ontwikkeling van een product en toezicht nadat het product in gebruik is genomen. De auteurs stellen dat elke fase een andere aanpak voor de beoordeling vereist.
Dat maakt de gebruikssituatie bepalend voor de betekenis van een uitslag. Een beoordeling van een basismodel beantwoordt een andere vraag dan controle op een toepassing die patiƫnten daadwerkelijk gebruiken. Door beide in hetzelfde kader te plaatsen, laat de publicatie zien welke stap nog moet worden onderzocht wanneer alleen modeltests beschikbaar zijn.
Wie controleert de beoordelaar?
De automatische beoordelaars zijn zelf taalmodellen: zij beoordelen de antwoorden van een ander model. Daarnaast staan gesloten testvragen en beoordeling door menselijke experts. In het voorstel zijn dit drie afzonderlijke methoden. Een automatisch oordeel is daardoor slechts een deel van de beschreven toetsing; ook nauwkeurigheid, veiligheid en bruikbaarheid blijven afzonderlijke beoordelingsvragen.
Waarom die scheiding ertoe doet, blijkt uit eerdere richtlijnen van de Wereldgezondheidsorganisatie, gepubliceerd op 18 januari 2024. De WHO waarschuwde daarin voor onjuiste, bevooroordeelde of onvolledige antwoorden en voor automatiseringsbias: mensen kunnen fouten over het hoofd zien doordat zij op het systeem vertrouwen. Dat is onafhankelijke achtergrond bij het nieuwe voorstel, geen beoordeling van Googles methode door de WHO.
De WHO bepleitte ook onafhankelijke audits na grootschalige ingebruikname. Daarmee leggen beide documenten een deel van de controle buiten de eerste modeltest, al verschilt hun doel: Google beschrijft een evaluatiemethode, de WHO formuleert aanbevelingen voor verantwoord gebruik en toezicht. De aankondiging van Google vermeldt geen klinische goedkeuring. Voor een concrete zorgtoepassing blijven de resultaten in de betreffende gebruikssituatie daarom de informatie die een algemeen raamwerk nog niet levert.
