Kunsmatige Intelligensie (KI) het vinnig deel geword van die mens se daaglikse bestaan. Dit het verskuif van “Mense wat KI probeer” na “Mense wat gereeld van KI afhanklik is”. 

Dit is nou alledaags dat e-posse en dokumente deur KI opgestel word sonder voldoende menslike toesig, wat soms tot ‘n verleentheid en selfs werklike nagevolge kan lei.

KI-gebruik en -afhanklikheid sal waarskynlik met verloop van tyd net toeneem, wat ‘n bewustheid van die inherente risiko’s daarvan noodsaaklik maak ten einde toepaslike beveiligingsmaatreëls te ontwikkel.

KI het vinnig gevestig geraak in professionele omgewings, maar al bied dit beduidende doeltreffendheidswins, kan ‘n opgemaakte KI-reaksie of -dokument meer skade as goed aanrig.

Baie gebruikers behandel KI foutiewelik soos ‘n databasis, terwyl dit in werklikheid ‘n probabilistiese generator is.

Hierdie wanbegrip lei tot ongelukkige insidente waar regsprofessionele regspraak aanhaal wat nie bestaan nie, en meer onlangs waar die regering sy eie beleidsdokument oor KI-bestuur moes terugtrek omdat dit fiktiewe bronne aangehaal het – wat verleentheidswekkend deur KI opgestel is.

Daar is twee tipes KI – logikagebaseer en groot taalmodelle (LLM’s). LLM’s leer deur idee-assosiasie en funksioneer deur intuïtiewe leer.

So werk dit

Die enjin van moderne LLM’s soos ChatGPT werk deur patroonvoltooiing in plaas van inligtingherwinning van die waarheid, en beskik nie oor ‘n meganisme om te onderskei tussen wat ‘waar’ en wat ‘geloofwaardig’ is nie.

Die gestelde doelwit van die stelsel is om ‘n doel te bereik: om die mees hulpvaardige en relevante antwoord te verskaf. Ongelukkig kan ‘n valse bron aangehaal word.

Verkeerde KI-inligting waarop professionele persone staatmaak, kan lei (en het al) tot verkeerde keuses, regsaspekte/blootstelling en reputasieskade.

Hierdie verkeerde uitsette word veroorsaak deur KI-hallusinasies – waar stelsels opgemaakte of misleidende inligting genereer.

Dit maak hulle besonder gevaarlik in besluitnemingsomgewings waar akkuraatheid van deurslaggewende belang is.

“Swartkas”-verdediging

Gebruikers het voorheen staatgemaak op die “swartkas”-verdediging om aanspreeklikheid te vryspring.

Hierdie verdediging is gebaseer op ‘n wanbegrip van die tegnologie en dat gebruikers onbewus was daarvan dat KI kan hallusineer en fiktiewe antwoorde kan skep.

Maar aangesien die konsensus is dat KI-gegenereerde valshede ‘n voorsienbare ingenieursrisiko is eerder as ‘n onvoorsienbare leuen, is dit onwaarskynlik dat die “swartkas”-verdediging sal slaag.

Hierdie perspektief baan die weg vir ‘n strenger standaard van tegnologiese bevoegdheid en omsigtigheid oor alle bedrywe heen.

Daar word van ‘n gebruiker verwag om, minstens tot ‘n redelike mate, te verstaan hoe generatiewe KI werk, asook ‘n praktiese begrip van hoe daardie sagteware kan faal.

Verder moet die gebruiker steeds die KI-gegenereerde antwoord verifieer, selfs al lyk die aanvanklike reaksie akkuraat.

Menslike beoordeling bly noodsaaklik – nie net om akkuraatheid en betroubaarheid te verseker nie, maar ook as ‘n voorvereiste vir Professionele Indemniteitsdekking.

Dit is dus van kardinale belang dat professionele persone die risiko’s oorweeg wat verband hou met die vertroue op KI-gegenereerde antwoorde.

* Inligting: Jonathan Kaiser (Hoof van Eise: Lugvaart (Aviation), Aanspreeklikheid, Professionele Indemniteit & Konstruksie) en Omar Ismail (Eisespesialis – Finansiële Lyne en Kuber by Santam Spesiale Oplossings).