Vincent Hentzepeter, hoofdredacteur LABinsights | Foto: Finn Hentzepeter
AI negeren = je bestaansrecht riskeren. Laboratoria die inzetten op AI hebben de toekomst, was de conclusie tijdens de door LABinsights gehouden paneldiscussie: ‘Kansen voor AI in het lab worden onderschat!’.
tk1 Met dank aan onze redactiecommissie voor de inbreng van hun expertise. Via LinkedIn kwamen een paar goede tips van experts uit het veld over hoe AI in te zetten volgens de regels van regulerende instanties. AI kan je razendsnel antwoorden geven op complexe vraagstukken, maar de vraag blijft of die antwoorden ook kloppen.
Zoals iedereen inmiddels wel weet is AI geneigd je altijd van een antwoord te voorzien, ook als dat er niet is. Het programma gaat dan hallucineren. Bekend is ook dat je op dezelfde vraag steeds andere antwoorden kunt krijgen. Niet echt wenselijk in een laboratoriumsituatie bij bijvoorbeeld de interpretatie van analysedata: je wilt één uitkomst! De juiste.
“Lees de nieuwe Annex 22 (AI in farma) even: alles wat bij dezelfde input een ander resultaat geeft is strikt verboden in GMP”
Ruud Santing, Synergy Health
tk2 Bij onderzoek is het oppassen geblazen met de inzet van AI. Zo toonde recent werk van de VU Brussel aan dat kunstmatige intelligentie moeite heeft met het doorrekenen van complexe moleculaire structuren, waardoor het niet kan voorspellen of bepaalde kankermedicijnen effectief zijn bij een bekende genetische mutatie.
De boel werd veel te simpel voorgesteld; een vereenvoudigde werkelijkheid waar je niets mee kunt als je wilt bepalen of een therapie zal aanslaan of niet. Het bevestigt opnieuw wat we al weten: AI heeft een gebruiksaanwijzing, hou dat steeds in het achterhoofd en bouw voldoende controlepunten in.
Interessant was de opmerking op mijn LinkedIn post over AI door Ruud Santing, werkzaam bij farmaceutisch contractlab Synergy Health. Over het gebruik van AI voor je data-interpretatie zegt hij:
“Dezelfde input moet hetzelfde resultaat opleveren (op het lab, uiteraard). LLM [Large Language Models, red.] geeft juist steeds andere antwoorden. Gewoon validatie-eisen aanhouden, n=3.” Hij gaf deze goede tip voor wie er dieper in wil duiken: “Lees de nieuwe Annex 22 (AI in farma) even: alles wat bij dezelfde input een ander resultaat geeft is strikt verboden in GMP.”
Hans de Raad, eigenaar van OpeNovations, raadt aan de nodige controle-
mechanismen te gebruiken bij inzet van AI in kritische omgevingen. Ik citeer: “Wij gebruiken verschillende soorten ‘AI’ en ‘ML’ in onze projecten, maar altijd met safeguards zoals drift monitoring, adversarial response controles [een soort aanvalstechniek om de robuustheid te testen, red.], en verscheidene menselijke checks. Het grootste probleem, in onze optiek, met de huidige generatieve pretrained transformer modellen, is dat er geen enkele lineage/traceerbaarheid mogelijk is tussen trainingsbrondata en prompt response.”
tk3 Ik wil er nog een belangrijke uitkomst uit onze rondetafeldiscussie aan toevoegen. Hou AI-gebruik veilig! Deel niets in de cloud. Jouw kennis wordt dan andermans kennis. Denk aan: doordachte keuzes rond security, IP en kwaliteitschecks. Hou je AI lokaal en dus niet openbaar.
Voor de AI-insiders in het lab – doe je huiswerk eerst, voor je AI gaat inzetten voor geavanceerdere toepassingen. Tegelijk, laat je niet afschrikken om als lab met AI aan de slag te gaan. Investeer erin, want kunstmatige intelligentie kan laboratoria meerwaarde bieden op gebieden als personeelsinzet, kennis, output en dienstverlening. Besef dat achteroverleunen en niet investeren in AI de concurrentie in de kaart speelt. Nu in AI investeren, is straks je winst pakken.
