Questo documento riflette la strategia che abbiamo perfezionato negli ultimi due anni, incluso il feedback di molte persone interne ed esterne a OpenAI. La tempistica per l’AGI rimane incerta, ma la nostra Carta ci guiderà nell’agire nel migliore interesse dell’umanità durante tutto il suo sviluppo.
La missione di OpenAI è garantire che l'intelligenza generale artificiale (AGI), con cui intendiamo sistemi altamente autonomi che superano gli esseri umani nel lavoro economicamente più prezioso, vada a beneficio di tutta l'umanità. Tenteremo di costruire direttamente un’AGI sicura e vantaggiosa, ma considereremo anche compiuta la nostra missione se il nostro lavoro aiuta gli altri a raggiungere questo risultato. A tal fine, ci impegniamo a rispettare i seguenti principi:
Benefici ampiamente distribuiti
Ci impegniamo a utilizzare qualsiasi influenza che otteniamo sull’implementazione dell’AGI per garantire che venga utilizzata a beneficio di tutti e per evitare di consentire usi dell’IA o dell’AGI che danneggino l’umanità o concentrino indebitamente il potere.
Il nostro dovere fiduciario primario è verso l’umanità. Prevediamo di dover mobilitare risorse sostanziali per compiere la nostra missione, ma agiremo sempre con diligenza per ridurre al minimo i conflitti di interessi tra i nostri dipendenti e le parti interessate che potrebbero compromettere ampi vantaggi.
Sicurezza a lungo termine
Ci impegniamo a svolgere la ricerca necessaria per rendere l’AGI sicura e a promuovere l’ampia adozione di tale ricerca nella comunità dell’intelligenza artificiale.
Siamo preoccupati che lo sviluppo dell’AGI in fase avanzata diventi una gara competitiva senza tempo per adeguate precauzioni di sicurezza. Pertanto, se un progetto allineato ai valori e attento alla sicurezza si avvicina alla costruzione dell’AGI prima di noi, ci impegniamo a smettere di competere e iniziare a sostenere questo progetto. Elaboreremo i dettagli in accordi caso per caso, ma una tipica condizione scatenante potrebbe essere “una possibilità di successo migliore del normale nei prossimi due anni”.
Direzione tecnica
Per essere efficace nell’affrontare l’impatto dell’AGI sulla società, OpenAI deve essere all’avanguardia nelle capacità di intelligenza artificiale: la sola promozione delle politiche e della sicurezza sarebbe insufficiente.
Riteniamo che l’intelligenza artificiale avrà un ampio impatto sociale prima dell’AGI e ci impegneremo a guidare in quelle aree che sono direttamente in linea con la nostra missione e competenza.
Orientamento cooperativo
Collaboreremo attivamente con altre istituzioni politiche e di ricerca; cerchiamo di creare una comunità globale che lavori insieme per affrontare le sfide globali dell'AGI.
Ci impegniamo a fornire beni pubblici che aiutino la società a percorrere il percorso verso l’AGI. Oggi ciò include la pubblicazione della maggior parte della nostra ricerca sull’intelligenza artificiale, ma prevediamo che i problemi di sicurezza ridurranno la nostra pubblicazione tradizionale in futuro, aumentando al contempo l’importanza di condividere la ricerca su sicurezza, politiche e standard.
Nessun commento:
Posta un commento