Samen met Robin Smits, data scientist en founder van LUMI ML Consulting, duikt Hildo van Es in de complexiteit van bias in AI modellen. Ze zien dat onze technologische modellen onze eigen imperfecties reflecteren en ook tot vervelende vooroordelen kunnen komen. In een discussie bespreken ze het mechanisme van datavervuiling en het ongewenste effect op het gedrag van AI, waarbij ze het belang van ethische overwegingen onderstrepen en nieuwe wetgeving als de EU AI Act en initiatieven van Big Tech de revue laten passeren.

Luister mee naar de discussie over deze grote issues in AI en over de strategieën die je kunt toepassen om het risico op bias te verkleinen.

Deze podcast duikt diep in de uitdagingen en benodigdheden bij het evalueren van open source Large Language Models (LLMs). Vanuit hun expertises als architect en data scientist bespreken Hildo van Es en Robin Smits specifieke incidenten om het cruciale belang van grondige evaluatie van LLM's te onderstrepen. Denk aan zoals de misstappen van DPD’s chatbot en Cortana’s ontwikkeling van ongewenste ideeën.

Van Es en Smits wijzen op de noodzaak van een brede reeks tests, inclusief ethische en bias-evaluaties, die afwijken van traditionele softwaretests. Verder wordt het gebruik van Hugging Face’s leaderboard en benchmarks aangehaald als essentiële hulpmiddelen voor het beoordelen van modelprestaties.

De discussie belicht ook het initiatief voor Nederlandstalige evaluaties en de implicaties van het testen van LLM's met bedrijfsspecifieke datasets, waarbij de complexiteit en de inherente risico’s van AI-modellen niet mogen worden onderschat.