Ik vind AI zo stom en onethisch

Rabarbara schreef: ↑

12-11-2025 12:23

Tenzij je dus getint bent. Of erg obees. Of op een andere wijze heel anders dan de standaard.

Precies. Dus kun je in sommige gevallen beter een algoritme inzetten dan de huisarts voor de eerste screening. Bijvoorbeeld als je een van de weinige getinte mensen bent in je woonplaats, dan heeft zo'n app meer "ervaring" (geschikte referenties) dan je huisarts.

En dit kun je ook gewoon in het model inbouwen.
Als donkere huid/BMI boven de 30/vrouw van boven de 50 > dan altijd op consult laten komen.

Ik denk overigens dat vele van de weerstand ook komt omdat inderdaad totaal onduidelijk is wat AI nou precies inhoudt.
Op zich is bv de spellingscontrole ook een basale vorm van AI. Maar ik denk niet dat veel mensen er moeite mee hebben als een dokter die gebruikt terwijl hij een verwijsbrief schrijft. Wat dan wel weer cruciaal is, is dat hij/zij hem even naleest om te kijken of er geen fouten in terecht gekomen zijn, iedereen kent de ‘oeps, autocorrect’ gevallen, en die wil je niet in een belangrijk document hebben.
Taken automatiseren is ook tot op zekere hoogte voor veel mensen niet zo’n probleem. Vroeger moest een secretaresse vijf ander secretaresses bellen om te vragen wanneer de baas kon, en dan een puzzel leggen wanneer de meeste mensen konden. Dat kan nu (grotendeels) door een computer die beschikbaarheid kan checken.

De weerstand zit veel meer in de generatieve hoek. Met name in gevallen waar mensen het gebruiken voor dingen die ze zelf niet (goed genoeg) kunnen. Inderdaad hele scripties die door chatGTP geschreven zijn. Mensen die stemadvies vragen aan zo’n programma.
Dan heb je de capaciteit niet om te controleren of het wel klopt. En het klopt veel te vaak niet om het zomaar over te kunnen nemen. En door overal AI voor te gebruiken, wordt de capaciteit om te kunnen controleren ook nog eens minder.

nausicaa schreef: ↑

12-11-2025 12:33

Maar ik denk niet dat veel mensen er moeite mee hebben als een dokter die gebruikt terwijl hij een verwijsbrief schrijft.

Dit is juist iets waarmee je dus heel erg mee moet oppassen. Je werkt wel met gevoelige patiëntgegevens

Amaryllis schreef: ↑

12-11-2025 12:30

Precies. Dus kun je in sommige gevallen beter een algoritme inzetten dan de huisarts. Bijvoorbeeld als je een van de weinige getinte mensen bent in je woonplaats, dan heeft zo'n app meer "ervaring" (geschikte referenties) dan je huisarts.

En dit kun je ook gewoon in het model inbouwen.
Als donkere huid/BMI boven de 30/vrouw van boven de 50 > dan altijd op consult laten komen.

Natuurlijk, maar dan moet je dat dus wel doen (dat inbouwen). En de apps die nu gebruikt worden, zijn daar lang niet altijd goed op ingesteld. Niet alleen in de geneeskunde, maar ook bv de methodes die gebruikt werden voor identificatie bij online examens. Die bleken dusdanig slecht getest en werkend bij mensen met een donkere huidskleur dat die enorme problemen ondervonden. Dat zal op zich niet met opzet gedaan zijn, maar er had ook niemand over nagedacht om er rekening mee te houden. Terwijl een menselijke surveillant hier waarschijnlijk totaal geen moeite mee gehad zou hebben.

En ja, dokters maken ook fouten, en ik zeg ook helemaal niet dat we zulke technologie niet zouden moeten gebruiken. Ik gaf wel een voorbeeld van wat er tegen bv zo’n app zou kunnen zijn en waarom we er nog heel voorzichtig mee moeten zijn in het inzetten. En waarom: ‘AI kan het beter dan mensen’ wat mij betreft veel te kort door de bocht is. AI kan bepaalde dingen in een specifieke context absoluut beter dan mensen. Maar de flexibiliteit van mensen is altijd nog stukken groter en speelt een te grote rol om te negeren.

Koffiezetapparaat schreef: ↑

12-11-2025 12:39

Dit is juist iets waarmee je dus heel erg mee moet oppassen. Je werkt wel met gevoelige patiëntgegevens

Patiëntgegevens zitten in een EPD, daarin maak je ook brieven aan en daar zit een spellchecker ingebakken. Wat is daar heel erg oppassen aan?

bijtie schreef: ↑

12-11-2025 11:50

Of dat mensen denken dat een mens superieur is ten opzichte van AI in dit soort taken.

Ik hoorde een tijdje terug ook een interessante discussie over gerechtelijke uitspraken. AI kan dat goed en eerlijker dan een mens. Objectiever. Alle bias valt weg.

Toch vinden mensen het onethisch als kunstmatige intelligentie beslist over misdaad en straf. Blijkbaar willen we toch graag dat dit een menselijk en dus subjectief proces blijft. Misschien ervaren sommige mensen dat ook zo als het gaat om medisch handelen, dat je wil dat een mens naar jouw casus gekeken heeft en dat die de beslissingen neemt, ook al is de foutmarge veel groter. Want AI is stom en onethisch.

Zelf heb ik een operatie ondergaan die gepland is door software (met AI) die een 3D geprinte mal heeft afgedrukt, waarmee vervolgens met behulp van een robot is geopereerd. Ik was heel blij toen ik hoorde dat het zo geavanceerd kan. Voorheen deden artsen dit snijwerk meer "op gevoel." Ik weet wel wat ik liever heb.

Ik weet dat er experimenten worden gevoerd met AI in de rechtsspraak. Het voordeel is dat de werklast voor rechters minder wordt. Dat lijkt me een zegening voor de samenleving.

Maar wat onethisch is: uiteindelijk vellen rechters een moreel oordeel. Bovendien vormen rechters een van de drie machten. Ook al kan het technisch, het heeft mogelijk grote gevolgen voor de autoriteit van de rechtelijke macht als experimenten uiteindelijk te ver worden doorgevoerd.

We kunnen dan ook wel de andere machten makkelijk vervangen. Dat zal tegen die tijd technisch ook wel kunnen.

Een computersysteem dat beslissingen neemt als politieke autoriteit? Het zal best een hoop voordelen opleveren maar ik snap oprecht niet dat mensen hiervan moeten watertanden.

Ik heb een rijke fantasie en ik kan mij allerlei scenario's voorstellen. Dat AI op een gegeven beter, goedkoper en efficiënter in staat is om te besturen en zelfs morele kaders vorm te geven. En dat geen mens hier na verloop van tijd meer toe in staat is. Omdat we het uitbesteed hebben en zelf de hele dag ergens op het strand liggen.

Wat blijft er dan nog over van ons mens-zijn?

nausicaa schreef: ↑

12-11-2025 12:16

Dingen als ‘gerechtigheid’ zijn natuurlijk al helemaal lastig, omdat dat überhaupt al niet objectief is. Dingen zijn verboden, maar er zijn bijna altijd uitzonderingen te bedenken waarbij het dusdanig begrijpelijk is, dat het niet bestraft wordt. Menselijkheid in je rechtssysteem willen lijkt me an sich niet echt iets wat we af moeten willen schaffen.

Ja dat vind ik interessante materie.

Ik denk ook na over welke menselijke kwaliteiten straks belangrijker zullen worden omdat AI die nooit kan vervangen. Vind ik zelf nog best lastig te bedenken.

Laatst las ik over een robot die aan boord van een veerpont werkt ergens in Zuid-holland, veel mensen vinden die robot eng. Je wil misschien nog niet denken aan een veerpont waar helemaal geen menselijke medewerker aan boord is.

Mensen hebben anderzijds tegenwoordig relaties met AI gegenereerde personages en ervaren dat als vervullend, dat intrigeert me ook.

bijtie schreef: ↑

12-11-2025 12:50

Ja dat vind ik interessante materie.

Ik denk ook na over welke menselijke kwaliteiten straks belangrijker zullen worden omdat AI die nooit kan vervangen. Vind ik zelf nog best lastig te bedenken.

Laatst las ik over een robot die aan boord van een veerpont werkt ergens in Zuid-holland, veel mensen vinden die robot eng. Je wil misschien nog niet denken aan een veerpont waar helemaal geen menselijke medewerker aan boord is.

Mensen hebben anderzijds tegenwoordig relaties met AI gegenereerde personages en ervaren dat als vervullend, dat intrigeert me ook.

Heb je echt geen idee? Ik vind dat eigenlijk meer zeggen over jouw mensbeeld dan over jouw ideeen over AI.

Vaak is het in dat soort scenario's of-of, maar is het niet logischer dat de mens zal samenwerken met AI en dat op den duur werkwijzen ontstaan die het beste van de mens en het beste van AI vertegenwoordigen?

Het is niet dat mensen nou zo super goed in staat zijn om voor de aarde te zorgen tot op heden, bijvoorbeeld.

Edit: per ongeluk mezelf gequote

Paradise schreef: ↑

12-11-2025 12:54

Heb je echt geen idee? Ik vind dat eigenlijk meer zeggen over jouw mensbeeld dan over jouw ideeen over AI.

Ja uiteraard zegt dat iets over mij.

Ik ben misschien dom geworden door AI gebruik.

bijtie schreef: ↑

12-11-2025 12:54

Vaak is het in dat soort scenario's of-of, maar is het niet logischer dat de mens zal samenwerken met AI en dat op den duur werkwijzen ontstaan die het beste van de mens en het beste van AI vertegenwoordigen?

Het is niet dat mensen nou zo super goed in staat zijn om voor de aarde te zorgen tot op heden, bijvoorbeeld.

Edit: per ongeluk mezelf gequote

Om samen te werken is gelijkwaardigheid belangrijk. Dus zullen mensen ook aan hun vaardigheden moeten werken.

En dat de mens niet goed in staat is voor de aarde te zorgen is het punt niet. Er zitten ongetwijfeld ook voordelen aan een dictatuur. Een democratie is bekend om zijn rommeligheid en inefficiëntie.

En de mens verkloot een heleboel op aarde door de aanwezigheid van allerlei emoties. Maar die emoties brengen ook een hoop goeds. Ergens het best in willen zijn, een stapje harder willen zetten, ergens moeite voor doen en pijn voor lijden als het resultaat de moeite waard is.

Het werpt de vraag op of er straks ook niet een hoop moois gaat verdwijnen. En of het mogelijk is om zonder emotie daadwerkelijk goed te besturen.
Of dat er op een gegeven moment een evolutionair proces ontstaat waardoor AI zelf emoties gaat ontwikkelen.

bijtie schreef: ↑

12-11-2025 12:55

Ja uiteraard zegt dat iets over mij.

Ik ben misschien dom geworden door AI gebruik.

Je mensbeeld lijkt negatief. De meeste mensen genieten van interactie met andere mensen. Die kwaliteit valt niet te vervangen.

nausicaa schreef: ↑

12-11-2025 12:43

Natuurlijk, maar dan moet je dat dus wel doen (dat inbouwen). En de apps die nu gebruikt worden, zijn daar lang niet altijd goed op ingesteld. Niet alleen in de geneeskunde, maar ook bv de methodes die gebruikt werden voor identificatie bij online examens. Die bleken dusdanig slecht getest en werkend bij mensen met een donkere huidskleur dat die enorme problemen ondervonden. Dat zal op zich niet met opzet gedaan zijn, maar er had ook niemand over nagedacht om er rekening mee te houden. Terwijl een menselijke surveillant hier waarschijnlijk totaal geen moeite mee gehad zou hebben.

En ja, dokters maken ook fouten, en ik zeg ook helemaal niet dat we zulke technologie niet zouden moeten gebruiken. Ik gaf wel een voorbeeld van wat er tegen bv zo’n app zou kunnen zijn en waarom we er nog heel voorzichtig mee moeten zijn in het inzetten. En waarom: ‘AI kan het beter dan mensen’ wat mij betreft veel te kort door de bocht is. AI kan bepaalde dingen in een specifieke context absoluut beter dan mensen. Maar de flexibiliteit van mensen is altijd nog stukken groter en speelt een te grote rol om te negeren.

Alleen kan een menselijke surveillant geen 300 schermen tegelijk in de gaten houden en zo'n tool wel. Bovendien kan een mens ook vooroordelen hebben en dus de donkere deelnemers beter in de gaten houden of het nadeel van de twijfel geven.

Het alternatief was bovendien geweest om de toets af te lassen of uit te stellen (= studievertraging voor 300 mensen) of te accepteren dat er fraude gepleegd wordt (= kwaliteit van onderwijs omlaag). Hoe oneerlijk, pijnlijk en naar voor de betrokken individuen ook, ik denk dat het goed is dat deze tekortkoming naar boven is gekomen zodat het in de toekomst beter kan.

Het is ook niet zo alsof "AI" eenmalig ontwikkeld wordt en daarna voor altijd zo werkt als tijdens de lancering. Die online proctoring die moeite had met donkere mensen kreeg (terecht!) een storm van kritiek en is toen verder ontwikkeld of vervangen door andere software waar dat minder was. Soms kom je echter pas achter iets tijdens een praktijktest. (En in geval van die online proctoring nam het opeens een vlucht doordat tentamens in de pandemie opeens op afstand moesten.)

Stond laatst ook een interessant artikel in de Volkskrant over discriminatie door AI in fotoherkenning. Waar 10 jaar geleden een zwart koppel als "gorilla's" werd geclassificeerd, is dat nu veel beter. https://www.volkskrant.nl/wetenschap/di ... ~bfffbb1a/

Ik snap alleen de reflex "het is (nog) niet perfect, dus moeten we er helemaal mee stoppen" niet zo. De eerste raket heeft ook de maan niet bereikt en niet alle nieuwe medische behandelingen zijn direct effectief. Daarvan zal echter niemand zeggen: stop maar met de ontwikkeling, we houden het wel bij het oude. Tuurlijk moet men kritisch blijven naar de effectiviteit en neveneffecten en is niet elke toepassing wenselijk.

Stel nou dat die moedervlek-apps in 99% van de gevallen een melanoom in een vroeg stadium herkennen en de huisarts in 99,8%. De huisarts heeft dus een veel kleinere foutmarge. Alleen kan zo'n app 1000 mensen in een vroeg stadium beoordelen en de huisarts maar 500. Dan krijgen in geval van die app 10 mensen onterecht te horen dat ze (nu) niet naar de huisarts hoeven, waardoor het melanoom mogelijk te laat ontdekt wordt. Bij de huisarts is dat er maar 1. Maar daar zijn ook 500 mensen die niet door de huisarts gezien zijn, omdat ze moeten wachten op een afspraak of aan de telefoon afgewimpeld zijn door de assistente, omdat de huisarts maar beperkt plek heeft. Van die 500 hadden er wellicht beter 5 onterecht gerustgesteld kunnen worden door de app, dan dat ze allemaal niet op tijd gezien worde.
(Getallen compleet fictief)

Dus om het weer terug te brengen naar het onderwijs en een voorbeeld dat eerder langs kwam:
Een samenvatting van ChatGPT over de aanloop naar, de gebeurtenissen tijdens en de gevolgen van de Kristallnacht overnemen in je werkstuk: nee, want bevat waarschijnlijk fouten.
ChatGPT gebruiken om bronnen te identificeren over de Kristallnacht: zou kunnen, met wat mitsen en maren.
Met ChatGPT een ooggetuigenverslag genereren en de leerlingen laten uitzoeken in hoeverre die accuraat is: een oefening waarbij je meerdere vliegen in 1 klap slaat (ze leren iets over de Kristallnacht, hoe je bronnenonderzoek doet en of ChatGPT een goede bron is)

Ik denk juist dat er meer ruimte zal komen voor de mens om mens te zijn.

Sinds de industriële revolutie is die ontwikkeling in gang, meer vrije tijd, meer aandacht voor ontwikkeling en gevoelswereld voor de gewone sterveling (in plaats van voorbehouden aan geestelijken, adel en kunstenaars).

We zitten nu nog massaal in dit land in 9-5 banen waarbij veel mensen lijden aan stress. Als AI die stress kan helpen verlichten komt het menselijke juist meer naar voren, is mijn idee tenminste. Sommige zaken zal AI immers nooit kunnen vervangen.

bijtie schreef: ↑

12-11-2025 10:28

Dat is wel wat kort door de bocht. AI is al niet meer weg te denken en zit al jaren ingebakken in zowat ieder systeem dat je gebruikt. Denk aan marketing, gezichtsherkenning, verkeersnavigatie, Netflix, social media, games, chatbots, bookingwebsites, banken/financiële dienstverlening, beveiliging, je mailservice (spamfilter), de productie van je auto en elektrische apparaten, etc.

ChatGPT is een nieuwere vorm van AI maar beslaat maar een klein gedeelte van wat AI is.

Klopt. Maar het is nog altijd een hulpmiddel. Ik kan prima op papier een administratie uitvoeren, maar in een computerprogramma gaat het beter. Dat programma is een hulpmiddel. Dat een programma met gebruik van AI facturen kan herkennen, is super fijn. Maar het is nog altijd een hulpmiddel. Want het helpt mij om mijn werk beter te doen. En dat is alleen maar fijn.
In al die dingen waar het reeds in zit, is het ook gewoon een hulpmiddel om een programma/proces/werk makkelijker te maken, maar nog altijd een hulpmiddel. En voor sommige dingen gebruik je het niet of niet bewust en voor sommige dingen wel (bewust).

bijtie schreef: ↑

12-11-2025 13:24

Ik denk juist dat er meer ruimte zal komen voor de mens om mens te zijn.

Sinds de industriële revolutie is die ontwikkeling in gang, meer vrije tijd, meer aandacht voor ontwikkeling en gevoelswereld voor de gewone sterveling (in plaats van voorbehouden aan geestelijken, adel en kunstenaars).

We zitten nu nog massaal in dit land in 9-5 banen waarbij veel mensen lijden aan stress. Als AI die stress kan helpen verlichten komt het menselijke juist meer naar voren, is mijn idee tenminste. Sommige zaken zal AI immers nooit kunnen vervangen.

Ik merk dat nu al in mijn werk. Bijvoorbeeld: toetsvragen maken. Voorheen was ik uren bezig om goede antwoordopties te bedenken voor meerkeuzevragen. Nu geef ik Copilot de vraag en het goede antwoord en vraag om 8 foute antwoorden die niet overduidelijk fout zijn. Die gebruik ik dan als inspiratiebron. Daarna vraag ik om 3 varianten op de vraag, zodat ik die in mijn vragendatabase kan stoppen voor volgend jaar. Daarna vraag ik om feedback op de complete toets: welke vragen zijn onduidelijk, zit er een vraag tussen met per ongeluk twee juiste antwoordopties, en kun je niet uit de ene vraag het antwoord op een andere afleiden? Kan ik ook allemaal zelf doen, maar dat kost veel meer tijd, plus dat je er soms te dicht op zit om het nog te zien.

De tijd die me dit bespaart kan ik gebruiken voor, bijvoorbeeld, het inlassen van een extra les of helpen van individuele studenten. Oftewel: het menselijke aspect van mijn werk.

^^ Amaryllis, dat vind ik nu wel een goede toepassing van genAI: je staart niet meer naar een leeg papier om een extra proeftoets te maken, maar wel vanuit jouw kennis van inhoud en lesdoeleinden. Aan de andere kant kun jij vanuit jouw kennis misschien andere antwoorden toevoegen dan AI, want AI die testen maakt in mijn vakgebied leidt vaak tot teveel 'instinkervragen' ipv echt inzicht/begrip te testen.

Madrigalscapybara schreef: ↑

12-11-2025 13:57

^^ Amaryllis, dat vind ik nu wel een goede toepassing van genAI: je staart niet meer naar een leeg papier om een extra proeftoets te maken, maar wel vanuit jouw kennis van inhoud en lesdoeleinden. Aan de andere kant kun jij vanuit jouw kennis misschien andere antwoorden toevoegen dan AI, want AI die testen maakt in mijn vakgebied leidt vaak tot teveel 'instinkervragen' ipv echt inzicht/begrip te testen.

Klopt, maar daarom is het een hulpmiddel en neem ik het niet klakkeloos over. Het is dus wat anderen al zeggen een hulpmiddel.

Voor de grap even een voorbeeld getest.

Wat is geen 'P' in de definitie van duurzaamheid?
A. Planet
B. Profit
C. People
D. Plants (= mijn eigen bedenksel)

Prompt voor ChatGPT:
Genereer 4 extra antwoordopties voor deze vraag, die onjuist zijn maar niet overduidelijk fout. Verbeter ook de vraagstelling.

Antwoord:

Verbeterde vraag:
Welke van de onderstaande termen behoort niet tot de drie ‘P’s van duurzaamheid?

A. Planet
B. Profit
C. People
D. Prosperity
E. Partnership
F. Purpose
G. Progress

Daar zitten wel wat opties tussen waar ik wat mee kan, evenals opties waarvan ik direct denk "nee, die niet".

Amaryllis schreef: ↑

12-11-2025 12:30

Precies. Dus kun je in sommige gevallen beter een algoritme inzetten dan de huisarts voor de eerste screening. Bijvoorbeeld als je een van de weinige getinte mensen bent in je woonplaats, dan heeft zo'n app meer "ervaring" (geschikte referenties) dan je huisarts.

En dit kun je ook gewoon in het model inbouwen.
Als donkere huid/BMI boven de 30/vrouw van boven de 50 > dan altijd op consult laten komen.

En dan komt er iemand met vitiligo. Verrek, die zijn we vergeten mee te nemen in het model of in de uitzonderingen.
Laat de techniek het signaal geven en daarna een arts de beoordeling. Bij iedereen.

dianaf schreef: ↑

12-11-2025 13:33

Klopt. Maar het is nog altijd een hulpmiddel. Ik kan prima op papier een administratie uitvoeren, maar in een computerprogramma gaat het beter. Dat programma is een hulpmiddel. Dat een programma met gebruik van AI facturen kan herkennen, is super fijn. Maar het is nog altijd een hulpmiddel. Want het helpt mij om mijn werk beter te doen. En dat is alleen maar fijn.
In al die dingen waar het reeds in zit, is het ook gewoon een hulpmiddel om een programma/proces/werk makkelijker te maken, maar nog altijd een hulpmiddel. En voor sommige dingen gebruik je het niet of niet bewust en voor sommige dingen wel (bewust).

Het is een hulpmiddel (ik kan niet bedenken wat het anders zou kunnen zijn?) maar het is al lang geen keuze meer om zonder AI door het leven te gaan, zoals je zei. Iedereen met een smartphone en die wel eens vliegtickets boekt, of Spotify gebruikt, gebruikt AI.

bijtie schreef: ↑

12-11-2025 14:57

Het is een hulpmiddel (ik kan niet bedenken wat het anders zou kunnen zijn?) maar het is al lang geen keuze meer om zonder AI door het leven te gaan, zoals je zei. Iedereen met een smartphone en die wel eens vliegtickets boekt, of Spotify gebruikt, gebruikt AI.

Ah, bedoel je dat. Ik dacht dat ik schreef, ik ben er niet actief mee bezig of in geïnteresseerd met als voorbeelden die twee mensen in mijn omgeving. Zij gebruiken het bewust om hun werk/hobby makkelijker en leuker te maken. Niet dat ik er geen gebruik van maak (want ik gaf aan dat ik dat wel deed als onderdeel van mijn programma), maar het is geen bewuste keuze en het heeft niet mijn verdere interesse.

Ik zit nu in de IT en er zijn veel initiatieven/workshops/cursussen/lezingen over het bewust gebruiken van AI in je werk. Die skip ik over het algemeen omdat de toepassing van deze zaken, voor mij op dit moment niet toepasbaar/nuttig zijn.

thistle schreef: ↑

12-11-2025 14:51

En dan komt er iemand met vitiligo. Verrek, die zijn we vergeten mee te nemen in het model of in de uitzonderingen.
Laat de techniek het signaal geven en daarna een arts de beoordeling. Bij iedereen.

Uit interesse: hoe lost dat het probleem van de tekorten in de zorg beter op dan AI voor sommige toepassingen inzetten? Want door dit soort ontwikkelingen principieel af te wijzen uit angst dat het niet 100% van de gevallen effectief is, kies je er accepteer je in mijn ogen ook dat er minder zorg geboden kan worden (en dus per definitie diagnoses gemist worden of te laat komen).

Ik onderschrijf de bezwaren tegen digitalisering, algoritmes en (gen)AI echt wel, maar dit klinkt voor mij net zo onderbouwd als: ik wil niet dat oncologen immuuntherapie inzetten of dat verder onderzoeken, want dat is misschien alleen getest op (witte) mannen.
Je kan in de toepassing van (AI) hulpmiddelen namelijk ook voorwaarden afspreken waarin het geschikt is en toegepast mag worden, waarbij een mens de rest blijft doen.

Om in mijn vakgebied te blijven: meerkeuzevragen laat ik door de computer nakijken, open vragen kijk ik zelf na.

thistle schreef: ↑

12-11-2025 14:51

En dan komt er iemand met vitiligo. Verrek, die zijn we vergeten mee te nemen in het model of in de uitzonderingen.
Laat de techniek het signaal geven en daarna een arts de beoordeling. Bij iedereen.

Bij zo’n oplossing klinkt het alsof je bang bent dat het systeem een fout maakt, door een moedervlek goed te keuren terwijl dat niet had gemoeten. Dat risico moet natuurlijk zo klein mogelijk worden.
Interessant daarbij is dat artsen ook beoordelingsfouten kunnen maken. Zijn we daar toleranter voor dan computerfouten?

makreel schreef: ↑

12-11-2025 15:39

Bij zo’n oplossing klinkt het alsof je bang bent dat het systeem een fout maakt, door een moedervlek goed te keuren terwijl dat niet had gemoeten. Dat risico moet natuurlijk zo klein mogelijk worden.
Interessant daarbij is dat artsen ook beoordelingsfouten kunnen maken. Zijn we daar toleranter voor dan computerfouten?

Ja er is dus zelfs bewezen dat in sommige toepassingen de AI mìnder fouten maakt dan de arts. Plus dat er bij een bepaalde onzekerheid vaak alsnog een arts naar kijkt, dus dan is er een soort '4-ogen'-principe.

bijtie schreef: ↑

12-11-2025 12:44

Patiëntgegevens zitten in een EPD, daarin maak je ook brieven aan en daar zit een spellchecker ingebakken. Wat is daar heel erg oppassen aan?

Oh, ik heb het niet goed gelezen. Ik dacht dat het ging over het gebruik van AI, bijvoorbeeld zoals ChatGPT, buiten het EPD om. Ik hoor steeds vaker dat zorgprofessionals dat gebruiken om rapportages te schrijven. Het invoeren van cliëntgegevens (ook als je de naam weglaat) kan in strijd zijn met de AVG.