Ik vind AI zo stom en onethisch

Rabarbara zaterdag 8 november 2025 om 19:48

Binnenkort moet ik vooral naar een studiedag waar ik ga leren nog beter gebruik te maken van AI en ik wil niet.

Ergens voel ik me steeds weggezet als iemand die in de negentiende eeuw stond te protesteren tegen de trein. Misschien ben ik ook wel zo iemand. Maar in alle eerlijkheid: ik ben zo bang dat we enorm dom worden van AI.
Op dit forum zie je steeds vaker mensen die hele lappen tekst uit een AI-programma geknipt en geplakt hebben. Is het waar wat er staat? Geen idee. Gaat het voorbij aan het doel van een forum? Wat mij betreft wel.
Op mijn werk: collega's die lesmateriaal maken met Chatgpt. Er komt weer een salarisverhoging aan, lijkt me dat leerlingen mogen verwachten dat ik mijn materiaal zelf maak. Erger nog: collega's die Chatgpt gebruiken als ze zelf de examenopgave niet goed uitgelegd krijgen. Ik moet ervan huilen.
Kutliedjes die gemaakt worden met Suno. "Heb je het al aan de computer gevraagd?" We recyclen kennis van onduidelijke bronnen waarvan we niet eens weten of het wel waar is.
Zijn er straks nog mensen die de nuances van taal begrijpen of is alles een prompt?

Ik word er zo somber van. Ben ik te ouderwets? Te pessimistisch? Te dom?

Alsjeblieft niet voor de grap hier posten wat de mening van Chatgpt is over de morele implicaties van toegenomen AI-gebruik.

Si abra la puerta hay lobos.

may_ka woensdag 12 november 2025 om 17:22

Ik gebruik AI als hulp bij programmeren (want ik ben slecht in programmeren).
En ik kan me goed voorstellen dat, zoals iemand anders al zei, het heel handig is als je een korte uitleg ingeeft en een ambtelijk stuk met alle daarin blijkbaar nodige wolligheid terugkrijgt. De volgende stap is dan natuurlijk dat dat stuk naar iemand toegaat die datzelfde stuk door een AI haalt, om de korte en bondige uitleg eruit te halen.
Dat vind ik een heel droevig idee.

Net als trouwens het idee dat mensen AI gebruiken voor persoonlijke uitingen - ongetwijfeld kun je een prachtige speech door een AI laten schrijven, maar juist die imperfecte speech toonde jouzelf en ik wil jou horen, niet een machine.

In de Volkskrant van zaterdag stond een stuk met goede suggesties voor wanneer AI wel en niet te gebruiken.

En wij ons maar afvragen waar die afvalberg vandaan komt.

nausicaa woensdag 12 november 2025 om 17:30

Amaryllis schreef: ↑
12-11-2025 13:22
Alleen kan een menselijke surveillant geen 300 schermen tegelijk in de gaten houden en zo'n tool wel. Bovendien kan een mens ook vooroordelen hebben en dus de donkere deelnemers beter in de gaten houden of het nadeel van de twijfel geven.

Het alternatief was bovendien geweest om de toets af te lassen of uit te stellen (= studievertraging voor 300 mensen) of te accepteren dat er fraude gepleegd wordt (= kwaliteit van onderwijs omlaag). Hoe oneerlijk, pijnlijk en naar voor de betrokken individuen ook, ik denk dat het goed is dat deze tekortkoming naar boven is gekomen zodat het in de toekomst beter kan.

Het is ook niet zo alsof "AI" eenmalig ontwikkeld wordt en daarna voor altijd zo werkt als tijdens de lancering. Die online proctoring die moeite had met donkere mensen kreeg (terecht!) een storm van kritiek en is toen verder ontwikkeld of vervangen door andere software waar dat minder was. Soms kom je echter pas achter iets tijdens een praktijktest. (En in geval van die online proctoring nam het opeens een vlucht doordat tentamens in de pandemie opeens op afstand moesten.)

Zoals ik al zei, ik ben helemaal niet tegen dit soort mogelijkheden. Het proctor voorbeeld gebruikte ik om aan te geven dat er wel degelijk nog steeds gewoon kans is op bias en discriminatie bij het gebruik van AI. Juist omdat je zo vaak leest (ook hier al weer een aantal keer) ‘het is objectief’, elimineert bias etc. Dat is dus niet zo. Dit was een overduidelijk voorbeeld, maar het komt in mindere en meerdere mate natuurlijk heel veel voor. Je voortdurend bewust blijven van dat een model ook alleen maar iets kan met data die je er zelf instopt. En de kwaliteit daarvan is dus doorslaggevend.
Bij een beoordelings tool voor medisch gebruik zal dat vaak redelijk ok zijn. Want daar is de data sowieso alleen beschikbaar voor professionals (de meeste mensen hebben niet willekeurig gemaakte mri scans liggen om online te gooien). En de database is ook niet openbaar. Dan nog is het heel waarschijnlijk dat er cruciale missers in zitten, waar een goede controle op moet zijn zodat ze gecorrigeerd kunnen worden.
Maar bij algoritmes op basis van het internet in het algemeen, is die controle veel minder. Daar kan dus veel makkelijker allerlei rotzooi ook gebruikt worden, wat de antwoorden een stuk minder betrouwbaar maakt. En in het ergste geval (en dat gebeurt op enige schaal al) wordt er desinformatie opzettelijk dusdanig online gegooid dat de algoritmes die eerder op zullen pikken en worden de antwoorden opzettelijk beïnvloed.

Dat is allemaal nog steeds geen reden om het helemaal af te wijzen (en zoals ik ook al zei, iedereen gebruikt het al, al was het maar de spellingscontrole of de ticket-zoek module van de luchtvaartmaatschappij). Maar wel reden om er veel kritischer tegenover te staan dan ‘computers/AI/programma’s kunnen al bijna alles’. En ja, ik ken genoeg mensen die echt alles ‘even aan Chat vragen’. Inclusief ‘wat bedoelde die kennis toen hij zus en zo zei’.

may_ka woensdag 12 november 2025 om 17:44

Bovendien: op zich is het vaak niet erg dat systemen fouten maken. Maar bij allerlei AI-systemen zijn het steeds dezelfde mensen die de sjaak zijn- mensen die niet wit zijn, of niet man, of anderszins niet de norm. En dat is wél een probleem.

En wij ons maar afvragen waar die afvalberg vandaan komt.

may_ka woensdag 12 november 2025 om 17:45

Samengevat is AI niet het probleem, maar wel het grenzeloze vertrouwen in de techniek, en daarmee in de mensen (of AI’s) die de techniek maken.

En wij ons maar afvragen waar die afvalberg vandaan komt.

nausicaa woensdag 12 november 2025 om 17:47

Overigens zou ik geen voorstander zijn van het inzetten van ‘ontlasten van de zorg door AI’. Niet omdat er iets mis mee is als de nodige zorgvuldigheid in acht genomen wordt, maar omdat dat veel te makkelijk als uitweg genomen wordt door beleidsmakers. Het is in feite gewoon het vervolg van de ‘digitalisering’. Dat zou ook alles zo veel makkelijker en sneller, maar in de praktijk werkt het niet zo. Er komt gewoon werk bij, want naast wat ze moesten, moeten ze nu ook nog contracten voor allerlei apps aangaan, kwaliteit controleren etc.

De zorg zou veel meer ontlast worden door het schrappen van onzinnige zaken. Je wilt niet weten hoeveel registraties er bijgehouden moeten worden, hoeveel verzoeken een huisarts krijgt van bv gemeente en verzekering om ‘even een formulier in te vullen’ wat dan 15 pagina’s is. En vaak is het een artsenverklaring die ze helemaal niet af mógen geven. Maar ja, de gemeente zegt ‘vraag maar even aan je arts’. Maar ook onzinnige formulieren om bepaalde medicatie vergoed te kunnen krijgen (bv jaarlijks voor chronische aandoeningen, jaarlijks moeten verklaren dat een patiënt nog steeds geamputeerd of blind is etc). Er gaat zó veel tijd verloren aan dat soort dingen, daarop inzetten lijkt me een veel beter idee. Scheelt tijd én maakt het vak veel leuker en daarmee aantrekkelijker.

Nogmaals: daarmee zeg ik niet dat we geen enkele toepassing moeten willen. Als er iets goeds voorbij komt, prima. Maar daar vanuit beleid primair op inzetten lijkt me een slecht idee.

nausicaa woensdag 12 november 2025 om 17:51

may_ka schreef: ↑
12-11-2025 17:44
Bovendien: op zich is het vaak niet erg dat systemen fouten maken. Maar bij allerlei AI-systemen zijn het steeds dezelfde mensen die de sjaak zijn- mensen die niet wit zijn, of niet man, of anderszins niet de norm. En dat is wél een probleem.

Eens. Plus dat je ‘computer says no’ vaak bijna niet gecorrigeerd krijgt. Een mens kan nog inzien dat iets zo anders dan anders is, dat de protocollen even overboord moeten. Een systeem niet. Dat geeft ook niet per se, maar door dat onbegrensde vertrouwen in systemen krijg je dan heel rare en frustrerende dingen.

Bitje93 woensdag 12 november 2025 om 17:58

Ugli schreef: ↑
08-11-2025 20:03
Is het waar wat er staat? Dat moet je zelf even checken natuurlijk.

.
We kunnen tenslotte altijd nog aan chatGPT vragen of het waar is.

Niet geschoten is altijd mis

thistle donderdag 13 november 2025 om 14:35

Als je wilt weten hoe goed chatgpt is, moet je voor de grap eens vragen wat een zeepaard emoticon is. Er komt dan een brij aan 'gedachtespinsels', waarbij een paard, een papagaai, een haai en van alles en nog wat voorbij komt als mogelijke emoticon.

dianaf donderdag 13 november 2025 om 14:37

may_ka schreef: ↑
12-11-2025 17:45
Samengevat is AI niet het probleem, maar wel het grenzeloze vertrouwen in de techniek, en daarmee in de mensen (of AI’s) die de techniek maken.

Dat is wel een goede conclusie.

Als klagen telde als werk, dan had mijn ex zich ook moeiteloos een Mercedes kunnen veroorloven.

Susan donderdag 13 november 2025 om 14:58

thistle schreef: ↑
13-11-2025 14:35
Als je wilt weten hoe goed chatgpt is, moet je voor de grap eens vragen wat een zeepaard emoticon is. Er komt dan een brij aan 'gedachtespinsels', waarbij een paard, een papagaai, een haai en van alles en nog wat voorbij komt als mogelijke emoticon.

Dat krijg ik helemaal niet. Ik krijg deze reactie:

Een zeepaard-emoticon is een symbool of emoji die een zeepaardje

(het zeediertje) voorstelt — meestal gewoon de emoji:

→ geen zeepaard

→ ook niet
maar:

of

gecombineerd met golven wordt soms creatief gebruikt.

De echte zeepaard-emoji is:

, want er is geen officiële Unicode-emoji specifiek voor het zeepaardje. Mensen gebruiken daarom vaak alternatieven of combinaties zoals:

><(((º> (visachtig)

:sea_horse: (in sommige chatplatforms, zoals Discord of Slack, als aangepaste emoji)

(paard + zee = zeepaardje, grappig bedoeld)

of gewoon het woord “zeepaardje” met een golfje: ~zeepaardje~

Kortom: er bestaat geen standaard-zeepaard-emoji in Unicode, maar mensen maken creatieve varianten of gebruiken aangepaste emoticons op bepaalde platforms.

Wil je dat ik er een paar leuke “tekstversies” van maak (zoals oude ASCII-stijl emoticons)?

Don't waste your time on jealousy,
Sometimes you're ahead, sometimes you're behind.

AnAppleADay donderdag 13 november 2025 om 15:00

Susan schreef: ↑
13-11-2025 14:58
Dat krijg ik helemaal niet. Ik krijg deze reactie:

Een zeepaard-emoticon is een symbool of emoji die een zeepaardje (het zeediertje) voorstelt — meestal gewoon de emoji:

→ geen zeepaard
→ ook niet
maar: of gecombineerd met golven wordt soms creatief gebruikt.

De echte zeepaard-emoji is: , want er is geen officiële Unicode-emoji specifiek voor het zeepaardje. Mensen gebruiken daarom vaak alternatieven of combinaties zoals:

><(((º> (visachtig)

:sea_horse: (in sommige chatplatforms, zoals Discord of Slack, als aangepaste emoji)

(paard + zee = zeepaardje, grappig bedoeld)

of gewoon het woord “zeepaardje” met een golfje: ~zeepaardje~

Kortom: er bestaat geen standaard-zeepaard-emoji in Unicode, maar mensen maken creatieve varianten of gebruiken aangepaste emoticons op bepaalde platforms.

Wil je dat ik er een paar leuke “tekstversies” van maak (zoals oude ASCII-stijl emoticons)?

Bij ChatGPT?

Want ik heb het al meerdere malen gevraagd en hij slaat altijd op hol.
CoPilot geeft wel een antwoord vergelijkbaar met de jouwe.

Susan donderdag 13 november 2025 om 15:04

AnAppleADay schreef: ↑
13-11-2025 15:00
Bij ChatGPT?

Want ik heb het al meerdere malen gevraagd en hij slaat altijd op hol.
CoPilot geeft wel een antwoord vergelijkbaar met de jouwe.

Ja, dit is ChatGPT.

Don't waste your time on jealousy,
Sometimes you're ahead, sometimes you're behind.

Ugli donderdag 13 november 2025 om 16:23

may_ka schreef: ↑
12-11-2025 17:45
Samengevat is AI niet het probleem, maar wel het grenzeloze vertrouwen in de techniek, en daarmee in de mensen (of AI’s) die de techniek maken.

Maar dit is niet anders dan bij menselijke doktoren, getraind met kennis over blanke mannen.

Ugli donderdag 13 november 2025 om 16:24

AnAppleADay schreef: ↑
13-11-2025 15:00
Bij ChatGPT?

Want ik heb het al meerdere malen gevraagd en hij slaat altijd op hol.
CoPilot geeft wel een antwoord vergelijkbaar met de jouwe.

Bij mij slaat ie oneindig op hol ja.

may_ka donderdag 13 november 2025 om 16:28

Ugli schreef: ↑
13-11-2025 16:23
Maar dit is niet anders dan bij menselijke doktoren, getraind met kennis over blanke mannen.

Maar daar zijn menselijke dokters zich inmiddels vaak wel van bewust, maar AI’s hebben geen idee van de bias in hun eigen trainingsdata en kunnen dus niet voorkomen dat ze niet-passende resultaten geven.

Dus weer: de AI is het probleem niet, het ongebreideld vertrouwen erin wel.

En wij ons maar afvragen waar die afvalberg vandaan komt.

Flashy donderdag 13 november 2025 om 16:48

Ugli schreef: ↑
13-11-2025 16:24
Bij mij slaat ie oneindig op hol ja.

Bij mij ook.
Grappig, nog nooit gehad.

Mariejan donderdag 13 november 2025 om 16:48

"Wat is een zeepaard emoticon" gevraagd aan ChatCPT. Binnen een seconde dit antwoord:

Een zeepaard-emoticon bestaat niet echt als standaardemoji in de meeste systemen. Er is wel een gewone zeemeerminachtige emoji, maar geen specifiek zeepaardje zoals je dat in het echt kent. Mensen gebruiken daarom vaak een visje of een fantasievariant als alternatief, maar dat lijkt meestal nergens op.

Als je bedoelt hoe mensen dit typen, dan kom je uit bij zelfgeknutselde ASCII-figuurtjes. Die zijn nooit standaard geweest en circuleren vooral in oudere chats. Een voorbeeld dat je soms tegenkomt is ><(((º> voor een vis, maar een zeepaardversie bestaat eigenlijk niet op een herkenbare manier. Je zou iets kunnen maken als ~)= maar dat is meer goede wil dan gelijkenis.

Als je wilt, maak ik er een die qua vorm een beetje doet denken aan een zeepaard. Ik heb wel wat creatieve vrijheid nodig, want met toetsenbordtekens blijft het altijd knutselen. Wil je dat?

Appletje donderdag 13 november 2025 om 17:06

may_ka schreef: ↑
13-11-2025 16:28
Maar daar zijn menselijke dokters zich inmiddels vaak wel van bewust, maar AI’s hebben geen idee van de bias in hun eigen trainingsdata en kunnen dus niet voorkomen dat ze niet-passende resultaten geven.

Dus weer: de AI is het probleem niet, het ongebreideld vertrouwen erin wel.

Voor medische zaken ga je dan ook geen ChatGPT, Gemini of Copilot gebruiken maar een AI-systeem dat getraind is met medische informatie, door specialistische bedrijven.

Appletje donderdag 13 november 2025 om 17:09

dianaf schreef: ↑
13-11-2025 14:37
Dat is wel een goede conclusie.

En niet anders dan wat we hebben gezien bij iedere andere ontwikkeling (ook niet-technische). Als je een auto verkeerd gebruikt is het ook gevaarlijk. Als je medicijnen verkeerd gebruikt ook. En die zijn we ook gewoon gaan gebruiken.

Actieve topics