'n Raamwerk vir die evaluering van vinnig ontwikkelende digitale en verwante tegnologieë: KI, groot taalmodelle en verder

• Inleiding 
• agtergrond 
• Die ontwikkeling van 'n analitiese raamwerk 
• Gebruik die analitiese raamwerk 
• Dimensies om te oorweeg wanneer 'n nuwe tegnologie geëvalueer word 
• 'N Weg vorentoe 
• Bedankings

Vinnig opkomende tegnologieë bied uitdagende kwessies wanneer dit kom by hul bestuur en potensiële regulering. Die beleid en openbare debatte oor kunsmatige intelligensie (KI) en die gebruik daarvan het hierdie kwessies in akute fokus gebring. Terwyl breë beginsels vir KI deur UNESCO, OECD en ander gepromulgeer is, en daar ontluikende besprekings is oor globale of jurisdiksionele regulering van die tegnologie, is daar 'n ontologiese gaping tussen die ontwikkeling van hoëvlakbeginsels en die inkorporering daarvan in regulatoriese, beleid, bestuur en rentmeesterskap benaderings. Dit is waar die nie-regeringswetenskaplike gemeenskap 'n besondere rol kan speel. 

Daar is deur 'n aantal akademici en beleidskenners voorgestel dat die Internasionale Wetenskapsraad (ISC) - met sy pluralistiese lidmaatskap van die sosiale en natuurwetenskappe - 'n proses daarstel om 'n geannoteerde raamwerk/kontrolelys van die risiko's, voordele, te skep en in stand te hou. bedreigings en geleenthede wat verband hou met vinnig bewegende digitale tegnologieë, insluitend – maar nie beperk nie tot – KI. Die doel van die kontrolelys sou wees om alle belanghebbendes – insluitend regerings, handelsonderhandelaars, reguleerders, die burgerlike samelewing en nywerheid – in te lig oor moontlike toekomstige scenario's, en sou omraam hoe hulle die geleenthede, voordele, risiko's en ander kwessies kan oorweeg. 

Die uitsette sal nie as 'n assesseringsliggaam optree nie, maar as 'n aanpasbare en ontwikkelende analitiese raamwerk wat enige assesserings- en regulatoriese prosesse kan ondersteun wat deur belanghebbendes ontwikkel kan word, insluitend regerings en die multilaterale stelsel. Enige analitiese raamwerk behoort ideaal gesproke onafhanklik van regerings- en nywerheidsaansprake ontwikkel te word, gegewe hul verstaanbare belange. Dit moet ook maksimaal pluralisties in sy perspektiewe wees en dus alle aspekte van die tegnologie en die implikasies daarvan insluit. 

Hierdie besprekingsdokument verskaf die uiteensetting van 'n aanvanklike raamwerk om die veelvuldige globale en nasionale besprekings wat met KI plaasvind, in te lig. 

Die vinnige opkoms van 'n tegnologie met die kompleksiteit en implikasies van KI dryf baie eise van groot voordele aan. Dit wek egter ook vrese vir beduidende risiko's uit, van individuele tot geo-strategiese vlak. Baie van die bespreking is geneig om aan die uiterste punte van die spektrum van sienings plaas te vind, en 'n meer pragmatiese benadering is nodig. KI-tegnologie sal voortgaan om te ontwikkel en die geskiedenis toon dat feitlik elke tegnologie beide voordelige en skadelike gebruike het. Die vraag is dus: hoe kan ons voordelige uitkomste uit hierdie tegnologie bereik, terwyl ons die risiko van skadelike gevolge verminder, waarvan sommige eksistensieel in omvang kan wees? 

Die toekoms is altyd onseker, maar daar is voldoende geloofwaardige en kundige stemme rakende KI en generatiewe KI om 'n relatief voorsorgbenadering aan te moedig. Daarbenewens is 'n stelselbenadering nodig, want KI is 'n klas tegnologieë met wye gebruik en toepassing deur veelvuldige tipes gebruikers. Dit beteken dat die volle konteks in ag geneem moet word wanneer die implikasies van KI vir individue, die sosiale lewe, die burgerlike lewe, die samelewingslewe en in die globale konteks oorweeg word. 

Anders as die meeste vorige tegnologieë, het digitale en verwante tegnologieë 'n baie kort tydperk van ontwikkeling tot vrystelling, grootliks gedryf deur die belange van die produksiemaatskappye of -agentskappe. KI is vinnig deurdringend; sommige eienskappe kan eers na vrystelling sigbaar word, en die tegnologie kan beide kwaadwillige en welwillende toepassings hê. Belangrike waarde-dimensies sal beïnvloed hoe enige gebruik waargeneem word. Verder kan daar geo-strategiese belange ter sprake wees. 

Tot op datum is die regulering van 'n virtuele tegnologie grootliks gesien deur die lens van "beginsels" en vrywillige nakoming. Meer onlangs het die bespreking egter gedraai na kwessies van nasionale en multilaterale bestuur, insluitend die gebruik van regulatoriese en ander beleidsinstrumente. Die eise wat vir of teen KI gemaak word, is dikwels hiperbolies en – gegewe die aard van die tegnologie – moeilik om te bepaal. Die vestiging van 'n effektiewe globale of nasionale tegnologiereguleringstelsel sal uitdagend wees, en veelvuldige lae van risiko-ingeligte besluitneming sal langs die ketting nodig wees, van uitvinder tot produsent, tot gebruiker, tot die regering en tot die multilaterale stelsel. 

Terwyl hoëvlakbeginsels onder andere deur UNESCO, OESO en die Europese Kommissie gepromulgeer is, en verskeie hoëvlakbesprekings aan die gang is oor kwessies van potensiële regulering, is daar 'n groot ontologiese gaping tussen sulke beginsels en 'n bestuurs- of regulatoriese raamwerk. Wat is die taksonomie van oorwegings wat 'n reguleerder dalk moet oorweeg? 'n Eng gefokusde raamwerk sal onverstandig wees, gegewe die breë implikasies van hierdie tegnologieë. Hierdie potensiaal is die onderwerp van baie kommentaar, beide positief en negatief.

Die ISC is die primêre globale NRO wat natuurlike en sosiale wetenskappe integreer. Sy globale en dissiplinêre reikwydte beteken dat dit goed geplaas is om onafhanklike en wêreldwyd relevante advies te genereer om die komplekse keuses wat voorlê, in te lig, veral aangesien die huidige stemme in hierdie arena grootliks uit die industrie of van die groot tegnologiese magte kom. Na uitgebreide bespreking oor die afgelope maande, insluitend die oorweging van 'n nie-regeringsassesseringsproses, het die ISC tot die gevolgtrekking gekom dat sy nuttigste bydrae sou wees om 'n aanpasbare analitiese raamwerk te skep en in stand te hou wat gebruik kan word as die basis vir diskoers en besluitneming deur alle belanghebbendes, insluitend tydens enige formele assesseringsproses wat na vore kom. 

Hierdie raamwerk sal die vorm aanneem van 'n oorkoepelende kontrolelys wat deur beide die regering en nie-regeringsinstellings gebruik kan word. Die raamwerk identifiseer en ondersoek die potensiaal van 'n tegnologie soos KI en sy afgeleides deur 'n wye lens wat menslike en maatskaplike welstand insluit, sowel as eksterne faktore, soos ekonomie, politiek, die omgewing en sekuriteit. Sommige aspekte van die kontrolelys kan meer relevant wees as ander, afhangende van die konteks, maar beter besluite is meer waarskynlik as alle domeine oorweeg word. Dit is die inherente waarde van 'n kontrolelysbenadering. 

Die voorgestelde raamwerk is afgelei van vorige werk en denke, insluitend die International Network for Governmental Science Advice (INGSA) se digitale welstandverslag¹ en die OESO KI-klassifikasieraamwerk² om die geheel van die potensiële geleenthede, risiko's en impakte van KI aan te bied. Hierdie vorige produkte was meer beperk in hul bedoeling gegewe hul tyd en konteks, daar is 'n behoefte aan 'n oorkoepelende raamwerk wat die volle reeks kwessies op beide die kort en langer termyn aanbied. 

Alhoewel dit ontwikkel is vir die oorweging van KI, kan hierdie analitiese raamwerk toegepas word op enige vinnig opkomende tegnologie. Die kwessies word breedweg in die volgende kategorieë gegroepeer vir verdere ondersoek: 

• Welstand (insluitend dié van individue of self, die samelewing en sosiale lewe, en burgerlike lewe) 
• Handel en ekonomie 
• Omgewing 
• Geo-strategies en geo-polities 
• Tegnologies (stelselkenmerke, ontwerp en gebruik) 

'n Lys van oorwegings vir elk van die bogenoemde kategorieë is ingesluit saam met hul onderskeie geleenthede en gevolge. Sommige is relevant vir spesifieke gevalle of toepassings van KI, terwyl ander generies en agnosties van platform of gebruik is. Geen enkele oorweging wat hier ingesluit is, moet as 'n prioriteit behandel word nie en as sodanig moet almal ondersoek word. 

Hierdie raamwerk kan op die volgende maniere gebruik word, maar nie beperk nie tot: 

• Om die gaping tussen beginsels en assessering te oorbrug deur 'n bekragtigde gemeenskaplike taksonomie van die reeks oorwegings daar te stel wat deur relevante belanghebbendes as basis gebruik kan word om verdere denke in te lig en te vorm, insluitend enige assesseringsraamwerk wat deur owerhede ontwikkel kan word. 

• Om impakbeoordelings in te lig. Die EU KI-wet vereis dat organisasies wat KI-instrumente verskaf of KI in hul prosesse aanneem, 'n impakbeoordeling moet onderneem om die risiko van hul inisiatiewe te identifiseer en 'n toepaslike risikobestuursbenadering toe te pas. Die raamwerk wat hier aangebied word, kan as grondslag hiervoor gebruik word. 

• Om die etiese beginsels te verbeter wat nodig is om die gebruik van KI te rig en te beheer. Die raamwerk kan dit doen deur 'n buigsame grondslag te verskaf waarop betroubare stelsels ontwikkel kan word en die wettige, etiese, robuuste en verantwoordelike gebruik van die tegnologie te verseker. Hierdie beginsels kan getoets word teen die volle reeks impakte wat in hierdie raamwerk aangebied word. 
• Om 'n voorraadopname van bestaande maatreëls (dws regulatoriese, wetgewende, beleid) te fasiliteer en enige leemtes te identifiseer wat verdere oorweging verg. 

• Die raamwerk is agnosties vir die tegnologie en die gebruik daarvan. Dit kan dus in baie duidelike gebiede soos sintetiese biologie gebruik word. 

Die volgende tabel is 'n vroeë vorming van die dimensies van 'n analitiese raamwerk. Afhangende van die tegnologie en die gebruik daarvan, sal sommige komponente meer relevant wees as ander. Die voorbeelde word verskaf om te illustreer waarom elke domein saak kan maak; in konteks sal die raamwerk kontekstueel relevante uitbreiding vereis. Dit is ook belangrik om te onderskei tussen platformontwikkelings en die generiese kwessies wat tydens spesifieke toepassings kan opduik.  

Sleutel na bronne van die beskrywers

Gewone teks:
Gluckman, P. en Allen, K. 2018. Begrip van welstand in die konteks van vinnige digitale en gepaardgaande transformasies. INGSA. https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf 

Vet teks:
OESO. 2022. OESO-raamwerk vir die klassifikasie van KI-stelsels. OECD Digital Economy Papers, No. 323, OECD Publishing, Parys. https://oecd.ai/en/classification 

Kursiewe teks:
Nuwe beskrywers (uit verskeie bronne) 

Afhangende van die reaksie op hierdie besprekingsdokument, sal 'n kundige werkgroep deur die ISC gevorm word om die bogenoemde analitiese raamwerk verder te ontwikkel of te wysig waarvolgens belanghebbendes omvattend kan kyk na enige beduidende ontwikkelings hetsy van platforms of gebruiksdimensies. Die werkgroep sal dissiplinêr, geografies en demografies divers wees, met kundigheid wat strek van tegnologie-assessering tot openbare beleid, van menslike ontwikkeling tot sosiologie en toekoms- en tegnologiestudies. 

Om by hierdie besprekingsdokument betrokke te raak, besoek asseblief raad.wetenskap/publikasies/raamwerk-digitale-tegnologieë 

Baie mense is geraadpleeg in die ontwikkeling van hierdie dokument, wat opgestel is deur Sir Peter Gluckman, President, ISC en Hema Sridhar, voormalige Hoofwetenskaplike, Ministerie van Verdediging, en nou senior navorsingsgenoot, Universiteit van Auckland, Nieu-Seeland. 

Ons bedank veral Lord Martin Rees, voormalige president van die Royal Society en medestigter van die Sentrum vir die Studie van Eksistensiële Risiko's, Universiteit van Cambridge; professor Shivaji Sondhi, professor in fisika, Universiteit van Oxford; Professor K Vijay Raghavan, voormalige hoofwetenskaplike adviseur van die regering van Indië; Amandeep Singh Gill, VN se sekretaris-generaal se gesant oor tegnologie; Dr Seán Óh Éigeartaigh, Uitvoerende Direkteur, Sentrum vir die Studie van Eksistensiële Risiko's, Universiteit van Cambridge; Amanda-June Brawner, Senior Beleidsadviseur en Ian Wiggins, Direkteur van Internasionale Aangeleenthede, Royal Society UK; Dr Jerome Duberry, Dr Marie-Laure Salles, Direkteur, Geneva Graduate Institute; Mnr Chor Pharn Lee, Sentrum vir Strategiese Toekoms, Eerste Minister se kantoor, Singapoer; Barend Mons en dr Simon Hodson, die Komitee oor Data (CoDATA); prof Yuko Harayama, Japan; Professor Rémi Quirion, President, INGSA; Dr Claire Craig, Universiteit van Oxford en voormalige hoof van vooruitskouing, Regeringskantoor vir Wetenskap; en prof Yoshua Bengio, VN se sekretaris-generaal se wetenskaplike adviesraad en by Université de Montréal. Die kontrolelysbenadering is oor die algemeen onderskryf en die tydigheid van enige optrede deur die ISC is beklemtoon.