Kwaliteit en veiligheid voorop: waarom we eerst criteria vaststellen en dan pas bouwen
Voorkomen is beter dan genezen. Daarom bepalen wij eerst de kwaliteitsnorm als het om AI in e‑health gaat. Daarna denken we pas aan bouwen.
Wie eerst bouwt en dan pas over kwaliteit nadenkt, moet mogelijk repareren wat te voorkomen was. Dat is duur, helemaal in de zorg – bovendien kan het cliënten raken. Daarom kiezen we bij Therapieland bewust voor een andere volgorde. Eerst bepalen we aan welke kwaliteit AI-content moet voldoen, onder andere met een uitgebreide Delphi-studie. Daarna bedenken we pas wat we gaan ontwikkelen en hoe we dat toetsen.
Waarom moet je niet meteen bouwen?
Het korte antwoord: omdat je nog helemaal niet weet of wat je bouwt goed is, maar op je gevoel afgaat. En helemaal bij AI is dat verraderlijk. Een tekst kan er namelijk prima uitzien, maar toch niet kloppen.
Daar komt bij dat een systeem moeilijk te veranderen is als het eenmaal staat. Het kost meer om veiligheid achteraf toe te voegen aan je product dan om het vooraf in je ontwerp mee te nemen.
Veiligheid voorop: wat betekent dat concreet?
Het betekent dat veiligheid geen onderdeel is van het eindcijfer, maar een voorwaarde is voor je hele product. Eerst moet vaststaan dat teksten niemand schaden, daarná kijk je pas of ze mooi zijn, vlot lezen en persoonlijk aanvoelen.
In onze Delphi-studie kwam dat ook terug. De criteria in de categorie ‘Veiligheid en Risico’ scoorden in de eerste ronde vrijwel allemaal het hoogst. En toen het expertpanel de kwaliteitsdimensies in de laatste ronde in volgorde van belang moest zetten, stond ‘Veiligheid en Risico’ bovenaan.
Waarom laten we experts de kwaliteitscriteria bepalen?
Kwaliteit is geen universeel, absoluut begrip in de zorg: behandelaars, onderzoekers, beleidsmakers en oud-cliënten kijken er allemaal anders naar. Als je kwaliteit zelf definieert, ontstaan er blinde vlekken. De Delphi-methode voorkomt dat. Experts geven anoniem hun oordeel, zien daarna hoe de groep scoorde en mogen hun oordeel herzien als er geen sprake is van consensus. Zo wint niet de luidste stem, maar de meerderheid.
Gaat dit niet veel te langzaam?
Een bedachtzame aanpak kost tijd. Toch staan we er bij Therapieland volledig achter: eerst de lat, dan de schaal. Start je snel maar moet je later weer een hoop terugdraaien? Dan ben je uiteindelijk helemaal niet sneller. Bovendien: als je in de zorg iemands vertrouwen schaadt, is het erg moeilijk om dat terug te winnen.
Daarnaast levert gedegen onderzoek ook veel op. Zoals vaste kwaliteitscriteria die bepalen of AI-content goed genoeg is, en waarom.
Verder lezen
Benieuwd wat AI allemaal voor de zorg kan betekenen? Dat delen we hier
