Het ziet er af uit. Maar klopt het ook?

Een ontwerpstudio die auto’s tekent voor merken als Ferrari vertelde de Financial Times deze zomer iets dat blijft hangen. Jonge ontwerpers laten AI hun schetsen uitwerken. Het resultaat oogt prachtig. Alleen: soms ontbreekt een koelrooster op een auto met verbrandingsmotor. Een basisfout. Vroeger zag u die meteen, in een ruwe schets. Nu niet meer. Het mooie plaatje verbergt hem.

Dat is het venijnige aan AI. Ze maakt niet alleen fouten. Ze maakt ze mooier.

Vroeger zag u een fout aan het werk zelf. Een scheve verhouding, een som die niet klopte, een ruwe lijn. Nu levert AI iets dat af oogt. Verzorgd, vloeiend, met overtuiging gebracht. En juist die glans maakt het moeilijk om te zien wat eronder mis is.

Dit wordt belangrijker naarmate AI meer werk doet. In het begin leest u alles na. Later beoordeelt u het resultaat en niet meer elke tussenstap. Dat kan alleen als u de controle heeft ingebouwd.

Want hier zit de valkuil. Wie op AI leunt zonder zelf te blijven toetsen, verliest het vermogen om de fout nog te zien. De FT sprak een hoogleraar die daar precies voor waarschuwt: gebruikt u AI zonder te leren, dan ontwikkelt u geen kritisch oordeel. En zonder dat oordeel merkt u niet meer wanneer AI ernaast zit.

Daarom geldt op de berg één wet boven alle andere. U klimt zo snel als u kunt zekeren, niet zo snel als u kunt klimmen.

Zekeren is geen rem. Het is het touw. Een klimmer gaat niet langzamer door zich vast te maken. Hij gaat verder, omdat een misstap niet meer fataal is.

In de praktijk betekent dat: spreek per toepassing af wie of wat de uitkomst controleert, vóórdat u de toepassing aanzet. Soms is dat een mens die meekijkt. Soms een tweede systeem dat het eerste toetst. Maar nooit: we zien wel.

En stel uzelf de vraag die er echt toe doet. Hoe merkt u in uw bedrijf het verschil tussen werk dat écht goed is en werk dat alleen goed oogt?

Wie daar een helder antwoord op heeft, kan met vertrouwen verder. Wie het antwoord schuldig blijft, weet niet wat hij aan het opschalen is.