Înainte de AI Safety Summit 2023, ISC lansează un document de discuție despre un cadru pentru evaluarea AI și dezvoltarea rapidă a tehnologiilor digitale

A fost propus de un număr de academicieni și experți în politici ca Consiliul Internațional de Știință – cu membrii sai pluralist din științele sociale și naturale – să stabilească un proces pentru a produce și menține un cadru/listă de verificare adnotată a riscurilor, beneficiilor, amenințărilor și oportunităților. asociate cu tehnologiile digitale în mișcare rapidă, inclusiv, dar fără a se limita la, AI. Scopul listei de verificare ar fi de a informa toate părțile interesate – inclusiv guvernele, negociatorii comerciali, autoritățile de reglementare, societatea civilă și industria – cu privire la potențialele scenarii viitoare și ar stabili modul în care aceștia ar putea lua în considerare oportunitățile, beneficiile, riscurile și alte probleme.

Un document de discuție ISC

Un cadru pentru evaluarea tehnologiilor digitale și conexe în dezvoltare rapidă: AI, modele de limbaj mari și nu numai

Acest document de discuție oferă schița unui cadru inițial pentru a informa multiplele discuții globale și naționale care au loc legate de IA.

Descarcă

Alăturați-vă discuției

Vă încurajăm să vă alăturați discuției despre ideile prezentate în această lucrare și asupra cadrului acesteia, utilizând formularul din partea de jos a paginii.

ISC este încântat să prezinte acest document de discuție privind evaluarea tehnologiei digitale în dezvoltare rapidă și a tehnologiilor conexe. Inteligența artificială, biologia sintetică și tehnologiile cuantice sunt exemple principale de inovație, informată de știință, care a apărut într-un ritm fără precedent. Poate fi o provocare să anticipăm sistematic nu numai aplicațiile lor, ci și implicațiile lor.

Evaluarea aspectelor societale ale IA generativă, cum ar fi modelele mari de limbaj, care reprezintă, în mod previzibil, cea mai mare parte a acestui document de discuție, este o punte necesară în cadrul discursului actual – uneori condus de panică, alteori nu suficient de profund în gândire – și cursurile necesare de măsuri pe care le putem întreprinde. ISC este convins că este necesar un cadru analitic între acceptarea socială a unor astfel de noi tehnologii și posibila reglementare a acestora pentru a facilita discuțiile cu mai multe părți interesate care sunt necesare pentru a lua decizii informate și responsabile cu privire la modul de optimizare a beneficiilor sociale ale acestei tehnologii care se dezvoltă rapid.

ISC este deschis reacțiilor din partea comunității noastre prin intermediul acestui document de discuție pentru a evalua cel mai bun mod de a continua să faceți parte și să contribuiți la dezbaterea despre tehnologie.

Salvatore Aricò, CEO

Colaboratori la lucrare:

Mulți oameni au fost consultați în elaborarea acestei lucrări, care a fost redactată de Sir Peter Gluckman, președinte, ISC și Hema Sridhar, fost om de știință șef, Ministerul Apărării, iar acum cercetător senior, Universitatea din Auckland, Noua Zeelandă. 

Mulțumim în special:

• Lord Martin Rees, fost președinte al Societății Regale și co-fondator al Centrului pentru Studiul Riscurilor Existențiale, Universitatea din Cambridge;
• profesor Shivaji Sondhi, profesor de fizică, Universitatea din Oxford;
• Profesorul K Vijay Raghavan, fost consilier științific principal al Guvernului Indiei;
• Amandeep Singh Gill, trimisul secretarului general al ONU pentru tehnologie;
• Dr. Seán Óh Éigeartaigh, director executiv, Centrul pentru Studiul Riscurilor Existențiale, Universitatea din Cambridge;
• Amanda-June Brawner, consilier principal pentru politici și Ian Wiggins, director pentru afaceri internaționale, Royal Society UK;
• Dr. Jerome Duberry, Dr. Marie-Laure Salles, Director, Institutul Absolvent din Geneva;
• dl Chor Pharn Lee, Centrul pentru viitor strategic, biroul primului ministru, Singapore;
• Barend Mons și Dr. Simon Hodson, Comitetul pentru Date (CoDATA);
• prof. Yuko Harayama, Japonia;
• Profesor Rémi Quirion, Președinte, INGSA;
• Dr. Claire Craig, Universitatea din Oxford și fost șef al departamentului de previziune, Oficiul guvernamental pentru știință; și
• Prof. Yoshua Bengio, Consiliul Consultativ Științific al Secretarului General al ONU și la Université de Montréal.

Ce se mai întâmplă în AI la ISC?

Centrul de reflecție al ISC, Centrul pentru viitorul științei, urmează să lanseze un document de lucru despre „Pregătirea ecosistemelor științifice pentru IA” la începutul anului 2024. Lucrarea va include o revizuire a literaturii și o hartă a problemelor și o serie de studii de caz scurte de țară. Speranța este că lucrarea va contribui la susținerea discuțiilor între factorii de decizie politică, liderii industriei și cercetătorii deopotrivă, pe măsură ce dezvoltă foi de parcurs pentru valorificarea potențialului AI pentru îmbunătățirea științei și cercetării.

AI pentru știință: Perspective din Asia-Pacific 

La începutul lunii octombrie, Centrul ISC pentru viitorul științei a marcat un moment esențial în cea mai recentă inițiativă a sa privind inteligența artificială (AI) pentru știință, deoarece 14 stimați delegați și experți reprezentând 12 țări, majoritatea din Asia-Pacific, s-au reunit pentru o întâlnire oportună în Kuala Lumpur, Malaezia, cu sprijinul Academiei Australiane de Științe. ➡️RMai mult

AI schimbă știința – Cum? Cine ar trebui să se deranjeze?

O privire critică asupra impactului inteligenței artificiale (IA) asupra științei din perspectivă și actori diferiți – de la finanțatori publici la instituții private de înaltă tehnologie – relevă o preocupare comună pentru lipsa de transparență și cooperare în crearea unei abordări mai centrate pe om, care ar îndeplini promisiunea științei ca bun public global. ➡️RMai mult

Feedback AI

Vă rugăm să activați JavaScript în browser pentru a completa acest formular.

Nume *

Prenumele

Numele

E-mail *

Organizare

Poziția la organizație

Gen *

• Femeie
• Masculin
• Altele
• Prefer să nu spun

În ce țară vă aflați?

Spuneți-ne părerea despre documentul de discuție al ISC „Un cadru pentru evaluarea tehnologiilor digitale în dezvoltare rapidă și a tehnologiilor conexe: AI, modele lingvistice mari și nu numai”

Spuneți-ne părerea dvs. despre dezvoltarea unui cadru analitic și dimensiunile pe care ISC le propune

Protecția datelor: Respondenții trebuie să știe că ISC va păstra informațiile transmise pe durata inițiativei (a se vedea: https://council.science/privacy-policy)

• Respondentul este de acord cu colectarea datelor.

Vă invităm să vă abonați la Newsletter-ul ISC.

• Sunt de acord să primesc buletinul informativ ISC. Mă pot dezabona în orice moment

Trimite

Imagine: adamichi pe iStock