De ontwikkeling van kunstmatige intelligentie gaat veel te snel en veel te ongereguleerd. Dat zegt een medeoprichter van AI-bedrijf Anthropic, die waarschuwt dat het gebrek aan regels kan leiden tot onbeheersbare risico's.
Hij vindt een rake vergelijking. Volgens hln.be stelt hij dat AI-ontwikkeling zonder regels aanvoelt als 's nachts in een Formule 1-wagen rijden zonder remmen. Kortom: we racen hard, maar niemand kan de wagen veilig sturen of stoppen als het misgaat.
En dit is geen losse uitspraak. nieuwsblad.be meldt dat de medeoprichter opnieuw oproept tot strengere regulering van AI. Die herhaalde oproep onderstreept de urgentie: er moeten wettelijke kaders komen vóórdat de technologie een punt bereikt waarop controle niet meer mogelijk is.
De waarschuwing past bij de bredere missie van Anthropic. Het bedrijf wil AI-systemen bouwen die behulpzaam, eerlijk en onschadelijk zijn. Op de website van anthropic.com benadrukt het bedrijf dat het beslissingen wil nemen die op de lange termijn de positieve uitkomsten voor de mensheid maximaliseren. Anthropic erkent daarbij expliciet dat AI ongekende risico's kan vormen als het slecht afloopt — maar ook ongekende voordelen kan bieden als het goed verloopt.
Om die balans te bewaken, hanteert het bedrijf een filosofie van 'licht en schaduw'. Aan de ene kant: werken aan positieve resultaten, het licht. Aan de andere kant: inzicht en bescherming tegen negatieve scenario's, de schaduw. Anthropic profileert zichzelf daarmee als een 'safety-first' bedrijf, waarin betrouwbare en veilige systemen centraal staan.
Daarmee plaatst de medeoprichter de commerciële race om de beste AI in een kritisch daglicht. Waar veel bedrijven vechten om technologische dominantie, pleit Anthropic voor een zorgvuldig begeleide transitie — zodat deze technologische revolutie de menselijke geschiedenis niet in een verkeerde richting stuurt.