Ik vind AI zo stom en onethisch

Ik gebruik AI als hulp bij programmeren (want ik ben slecht in programmeren).
En ik kan me goed voorstellen dat, zoals iemand anders al zei, het heel handig is als je een korte uitleg ingeeft en een ambtelijk stuk met alle daarin blijkbaar nodige wolligheid terugkrijgt. De volgende stap is dan natuurlijk dat dat stuk naar iemand toegaat die datzelfde stuk door een AI haalt, om de korte en bondige uitleg eruit te halen.
Dat vind ik een heel droevig idee.

Net als trouwens het idee dat mensen AI gebruiken voor persoonlijke uitingen - ongetwijfeld kun je een prachtige speech door een AI laten schrijven, maar juist die imperfecte speech toonde jouzelf en ik wil jou horen, niet een machine.

In de Volkskrant van zaterdag stond een stuk met goede suggesties voor wanneer AI wel en niet te gebruiken.

Amaryllis schreef: ↑

12-11-2025 13:22

Alleen kan een menselijke surveillant geen 300 schermen tegelijk in de gaten houden en zo'n tool wel. Bovendien kan een mens ook vooroordelen hebben en dus de donkere deelnemers beter in de gaten houden of het nadeel van de twijfel geven.

Het alternatief was bovendien geweest om de toets af te lassen of uit te stellen (= studievertraging voor 300 mensen) of te accepteren dat er fraude gepleegd wordt (= kwaliteit van onderwijs omlaag). Hoe oneerlijk, pijnlijk en naar voor de betrokken individuen ook, ik denk dat het goed is dat deze tekortkoming naar boven is gekomen zodat het in de toekomst beter kan.

Het is ook niet zo alsof "AI" eenmalig ontwikkeld wordt en daarna voor altijd zo werkt als tijdens de lancering. Die online proctoring die moeite had met donkere mensen kreeg (terecht!) een storm van kritiek en is toen verder ontwikkeld of vervangen door andere software waar dat minder was. Soms kom je echter pas achter iets tijdens een praktijktest. (En in geval van die online proctoring nam het opeens een vlucht doordat tentamens in de pandemie opeens op afstand moesten.)

Zoals ik al zei, ik ben helemaal niet tegen dit soort mogelijkheden. Het proctor voorbeeld gebruikte ik om aan te geven dat er wel degelijk nog steeds gewoon kans is op bias en discriminatie bij het gebruik van AI. Juist omdat je zo vaak leest (ook hier al weer een aantal keer) ‘het is objectief’, elimineert bias etc. Dat is dus niet zo. Dit was een overduidelijk voorbeeld, maar het komt in mindere en meerdere mate natuurlijk heel veel voor. Je voortdurend bewust blijven van dat een model ook alleen maar iets kan met data die je er zelf instopt. En de kwaliteit daarvan is dus doorslaggevend.
Bij een beoordelings tool voor medisch gebruik zal dat vaak redelijk ok zijn. Want daar is de data sowieso alleen beschikbaar voor professionals (de meeste mensen hebben niet willekeurig gemaakte mri scans liggen om online te gooien). En de database is ook niet openbaar. Dan nog is het heel waarschijnlijk dat er cruciale missers in zitten, waar een goede controle op moet zijn zodat ze gecorrigeerd kunnen worden.
Maar bij algoritmes op basis van het internet in het algemeen, is die controle veel minder. Daar kan dus veel makkelijker allerlei rotzooi ook gebruikt worden, wat de antwoorden een stuk minder betrouwbaar maakt. En in het ergste geval (en dat gebeurt op enige schaal al) wordt er desinformatie opzettelijk dusdanig online gegooid dat de algoritmes die eerder op zullen pikken en worden de antwoorden opzettelijk beïnvloed.

Dat is allemaal nog steeds geen reden om het helemaal af te wijzen (en zoals ik ook al zei, iedereen gebruikt het al, al was het maar de spellingscontrole of de ticket-zoek module van de luchtvaartmaatschappij). Maar wel reden om er veel kritischer tegenover te staan dan ‘computers/AI/programma’s kunnen al bijna alles’. En ja, ik ken genoeg mensen die echt alles ‘even aan Chat vragen’. Inclusief ‘wat bedoelde die kennis toen hij zus en zo zei’.

Bovendien: op zich is het vaak niet erg dat systemen fouten maken. Maar bij allerlei AI-systemen zijn het steeds dezelfde mensen die de sjaak zijn- mensen die niet wit zijn, of niet man, of anderszins niet de norm. En dat is wél een probleem.

Samengevat is AI niet het probleem, maar wel het grenzeloze vertrouwen in de techniek, en daarmee in de mensen (of AI’s) die de techniek maken.

Overigens zou ik geen voorstander zijn van het inzetten van ‘ontlasten van de zorg door AI’. Niet omdat er iets mis mee is als de nodige zorgvuldigheid in acht genomen wordt, maar omdat dat veel te makkelijk als uitweg genomen wordt door beleidsmakers. Het is in feite gewoon het vervolg van de ‘digitalisering’. Dat zou ook alles zo veel makkelijker en sneller, maar in de praktijk werkt het niet zo. Er komt gewoon werk bij, want naast wat ze moesten, moeten ze nu ook nog contracten voor allerlei apps aangaan, kwaliteit controleren etc.

De zorg zou veel meer ontlast worden door het schrappen van onzinnige zaken. Je wilt niet weten hoeveel registraties er bijgehouden moeten worden, hoeveel verzoeken een huisarts krijgt van bv gemeente en verzekering om ‘even een formulier in te vullen’ wat dan 15 pagina’s is. En vaak is het een artsenverklaring die ze helemaal niet af mógen geven. Maar ja, de gemeente zegt ‘vraag maar even aan je arts’. Maar ook onzinnige formulieren om bepaalde medicatie vergoed te kunnen krijgen (bv jaarlijks voor chronische aandoeningen, jaarlijks moeten verklaren dat een patiënt nog steeds geamputeerd of blind is etc). Er gaat zó veel tijd verloren aan dat soort dingen, daarop inzetten lijkt me een veel beter idee. Scheelt tijd én maakt het vak veel leuker en daarmee aantrekkelijker.

Nogmaals: daarmee zeg ik niet dat we geen enkele toepassing moeten willen. Als er iets goeds voorbij komt, prima. Maar daar vanuit beleid primair op inzetten lijkt me een slecht idee.

may_ka schreef: ↑

12-11-2025 17:44

Bovendien: op zich is het vaak niet erg dat systemen fouten maken. Maar bij allerlei AI-systemen zijn het steeds dezelfde mensen die de sjaak zijn- mensen die niet wit zijn, of niet man, of anderszins niet de norm. En dat is wél een probleem.

Eens. Plus dat je ‘computer says no’ vaak bijna niet gecorrigeerd krijgt. Een mens kan nog inzien dat iets zo anders dan anders is, dat de protocollen even overboord moeten. Een systeem niet. Dat geeft ook niet per se, maar door dat onbegrensde vertrouwen in systemen krijg je dan heel rare en frustrerende dingen.

Ugli schreef: ↑

08-11-2025 20:03

Is het waar wat er staat? Dat moet je zelf even checken natuurlijk.

.
We kunnen tenslotte altijd nog aan chatGPT vragen of het waar is.