3 apr. 2023
2 minuten
Precies op de dag dat het schrijven van dit redactioneel op de planning staat –29 maart, twee dagen na het overlijden van Wim de Bie (en vijf dagen na het overlijden van Gordan Moore moet ik er als redacteur van een elektronicablad bij zetten)– hebben zo’n 1100 technologen, wetenschappers en kopstukken van bedrijven hun zorgen geuit over de ongebreidelde ontwikkelingen op het gebied van AI. Elon Musk, Steve Wozniak, Yuval Noah Harari en vele anderen ondertekenden een brief waarin wordt gepleit voor een moratorium van zes maanden op het trainen van AI-systemen, die krachtiger zijn dan GPT-4. De brief is uitgestuurd onder de vlag van het Future of Life Institute, dat voorop loopt in het pleiten voor meer regulering van de toepassing van AI.
Door: Richard Bezemer, hoofdredacteur ElektroData
De brief is een (razendsnelle) reactie op een enkele dagen daarvoor (precies op de sterfdag van Moore) vrijgegeven studie van Microsoft over de mogelijkheden van de eerste versies van GPT-4, waarbij de training nog niet eens volledig is afgerond. De onderzoekers spreken hier over een dusdanig verbeterde ‘Logical Learning Machine’ LLM+, dat die kan worden beschouwd als een ‘early version of an artificial general intelligence system’.
Bij GPT-3 en al in mindere mate GPT-3.5 was er nog een zeker enthousiasme te bespeuren over de mogelijkheden. Dat je bijvoorbeeld in een handomdraai een filmpje kan laten maken van een van je voorvaderen die op een kikker door de straten van Dickensiaans Londen rijdt onder het declameren van Hamlet in het Sanskriet. En meer van dat soort nuttige zaken.
Bij de eerste GPT-4 zet de sluimerende scepsis ten aanzien van het afpakken van banen van programmeurs en het onderuit halen van ons onderwijssysteem er een paar tandjes bij: ‘We must ask ourselves: Should we let machines flood our information channels with propaganda and untruth? Should we automate away all the jobs, including the fulfilling ones? Should we develop nonhuman minds that might eventually outnumber, outsmart, obsolete and replace us? Should we risk loss of control of our civilization?’, lees ik in de brief.
Om te vervolgen dat dit soort maatschappelijk zo ingrijpende beslissingen niet mag worden overgelaten aan technologiebedrijven, zonder electoraal mandaat. Omdat overheden hier niet voldoende bovenop zitten, wordt gepleit om zes maanden de programmeerhandjes op elkaar te houden en de servers uit te zetten. In eerste instantie vrijwillig, maar als Open AI en consorten gewoon lekker doorgaan onder overheidsdwang.
In die tijd zal er in een samenwerking tussen AI-ontwikkelaars, beleidsmakers, ethici een minutieus uitgewerkt systeem moeten worden opgetuigd dat waarborgen biedt ten aanzien van het uit de bocht vliegen van de maatschappelijke impact van AI. Zes maanden. Hear hear…
