Despre autor: Amy Brand este directoarea și editoarea editurii MIT Press, rol pe care îl deține din 2015. Specializată în științe cognitive, și-a obținut doctoratul la MIT și a deținut roluri de conducere la CrossRef, Harvard și Digital Science. Este co-creatoare a taxonomiei CRediT, membru fondator al consiliului de administrație ORCID și producătoare a documentarului Picture a Scientist. Brand este recunoscută pe scară largă pentru contribuțiile sale la infrastructura de cercetare, comunicarea științifică și echitatea în știință. Printre distincțiile sale se numără Premiul Consiliului Editorilor de Știință și Premiul AAAS Kavli pentru Jurnalism Științific.
Știința este esențială pentru progresul uman. De asemenea, vital, chiar dacă mai puțin evident, este modul în care diseminăm știința. Fiind sistemul prin care cunoașterea devine ușor de descoperit și credibilă, publicarea este o componentă esențială a infrastructurii de cercetare.
Cum ar trebui să se adapteze publicarea pentru a servi nevoilor unei comunități de cercetare care se confruntă cu cenzură, finanțare redusă și creșterea rapidă a sistemelor de inteligență artificială generativă care sifonează cunoștințe, erodându-le în același timp integritatea? Ca persoană care a lucrat timp de decenii în cercetare, administrație universitară și publicare, nu am văzut niciodată mizele atât de mari ca astăzi pentru viitorul științei și al științei. și comunicare științifică.
Având în vedere declinul sistemelor socio-politice din jurul nostru, este tentant să considerăm IA generativă drept soluția alchimică la problemele lumii. Modelele lingvistice mari (LLM) au apărut ca portaluri seducătoare către descoperire, oferind răspunsuri instantanee, sinteză perfectă, aparentă democratizare a cunoașterii. Cu toate acestea, atractivitatea lor ascunde potența lor ca sisteme care accelerează și dezinformarea, frauda și propaganda. Prin intenție, acestea produc conținut care pare foarte plauzibil, dar este adesea înșelător sau pur și simplu greșit. Este periculos pentru știință atunci când validarea este dificilă și costisitoare, în timp ce „adevărul” este ieftin și profitabil, mai ales având în vedere cât de ușor este să păcălești mintea umană.
Da, vrem să grăbim descoperirea și rezolvarea problemelor în fața unor provocări globale cumplite. Vrem să credem în mașini care pot rezolva probleme mai rapid decât arhitectura cognitivă umană sau instituțiile noastre disfuncționale. Însă, atunci când susținătorii instruirii nerestricționate în domeniul inteligenței artificiale susțin că este un imperativ moral să se pună la dispoziție tot conținutul și datele științifice pentru a accelera inovația, istoria recomandă prudență.
Am mai văzut asta. Internetul timpuriu a fost aclamat ca o forță democratizantă pentru exprimare și cunoaștere universală. În cele din urmă, lipsa reglementării a permis platformelor comerciale masive să domine spațiul, erodând încrederea și prăbușind modelele economice atât pentru conținutul de știri, cât și pentru cel de cercetare. De asemenea, știm acum că politicile de acces deschis insuficient elaborate au accelerat consolidarea în domeniul publicării și au creat stimulente economice pentru a publica mai mult, cu un control al calității mai redus.
Să ne oprim și să ne gândim ce este mai bine pentru înțelegerea umană, învățare și progresul cunoașterii. Atunci când căutarea duce doar la rezumate bazate pe inteligență artificială, iar utilizatorii nu accesează sursele originale, iar simplul act de a citi de plăcere este în declin vertiginos, cum putem evita un viitor în care vom crea și publica conținut doar pentru consumul automat?
Cred că rolul vital pe care editorii îl joacă în susținerea impactului și integrității cercetării merită păstrat și protejat. mai ales acum. Înțeleg frustrarea față de taxele mari de publicare și de restricțiile de plată pentru abonamente, în special din partea editurilor mari care au valorificat o piață a prestigiului academic care, din punct de vedere istoric, nu a fost sensibilă la prețuri. Dar industria noastră nu este o entitate monolitică care caută profit. Editurile non-profit, precum MIT Press și multe societăți științifice, operează cu valori diferite și marje de profit mai mici.
Într-adevăr, suntem mai amenințați de acapararea teritoriilor de către inteligența artificială și uneori chiar de mișcările științifice deschise pe care le-am susținut mult timp. Prin urmare, trebuie să rezistăm posturilor morale care ignoră dinamica puterii aflate în joc. Există o aureolă în jurul ideii de „deschis” care poate ascunde complexitățile lumii reale, cum ar fi economia și stimulentele. În cele din urmă, nu orice deschidere este virtuoasă; nu orice rezistență la deschidere este obstrucționistă.
O altă concepție greșită este că interesele editorilor nu sunt aliniate cu cele ale cercetătorilor. Recent, am realizat un studiu sondaj amplu al autorilor în domeniile STEM cu privire la utilizarea neautorizată a lucrărilor lor pentru formarea LLM. Marea majoritate se opun acestei practici, chiar dacă consideră că inteligența artificială promite căi transformative pentru descoperire și învățare. Aceștia se așteaptă să poată consimți sau nu la o astfel de utilizare și se așteaptă la atribuire atunci când munca lor influențează rezultatele LLM. Nu echivalează deschiderea pentru citire cu deschiderea pentru formare.
La fel, mulți sunt sceptici în ceea ce privește integritatea marilor companii de inteligență artificială și își fac griji cu privire la modul în care programele de masterat în drept vor afecta publicarea, cititul, scrisul, gândirea critică și creativitatea; vor aplatiza punctele de vedere diverse și vor consolida prejudecățile și hegemoniile culturale. Își fac griji profund cu privire la ceea ce se pierde atunci când descompunem lucrările create de oameni în date de antrenament tokenizate și le transmitem unor modele care nu le pot păstra contextul sau argumentul.
Întrebarea despre cum și în ce condiții este utilizată știința publicată pentru a forma studenții cu drepturi de autor nu ține doar de drepturile de autor. Este vorba despre cine controlează viitorul cunoașterii. Cedăm autoritatea unor industrii opace, extractive, cu puțină responsabilitate față de comunitatea de cercetare? Sau construim sisteme care păstrează atribuirea, integritatea și sustenabilitatea? Dacă luăm în serios prosperitatea umană, știința bazată pe dovezi și protejarea condițiilor în care se dezvoltă cunoașterea, atunci comunitatea de cercetare și instituțiile sale trebuie să acționeze cu discernământ.
Ale cui interese servesc publicarea științifică și academică unui sector tehnologic extrem de extractiv și opac? Urmați logica: toată valoarea taxelor de publicare deschisă plătite de autori, instituții și finanțatori este apoi, în cele din urmă, transferată unor companii precum OpenAI și Anthropic. Când vine vorba de industriile extractive, să fim și onești în evaluarea modului în care valorile sectorului IA se compară cu cele ale editurilor academice.
Eu însumi rămân optimist că, printr-o planificare atentă și politici bazate pe dovezi, vom folosi inteligența artificială pentru a îmbunătăți evaluarea inter pares, a spori reproductibilitatea și a eficientiza fluxurile de lucru și costurile de publicare. Am putea chiar să construim soluții care să ajute la menținerea aspectelor pozitive ale publicării științifice.
Însă paradigma actuală, în care informațiile publicate sunt extrase fără consimțământ și monetizate de giganți tehnologici privați, este lipsită de etică și distructivă pentru știință și studii. De asemenea, reflectă o gândire magică despre cum funcționează lumea noastră complexă și cum vom face progrese reale în rezolvarea problemelor existențiale cu care ne confruntăm.
Declinare a responsabilităţii
Informațiile, opiniile și recomandările prezentate în blogurile noastre aparțin fiecărui contribuitor individual și nu reflectă neapărat valorile și convingerile Consiliului Internațional pentru Știință.
Primește viitoarele rezumate ale științei deschise direct în căsuța ta poștală – Abonează-te acum.
Fotografie de Martin Adams on Unsplash
Citește mai multe despre Forumul ISC privind publicarea și evaluarea cercetării Citește mai multe despre Rezumatul Științei Deschise: infrastructura ascunsă din spatele reformei cercetării Citește mai multe despre Construim o infrastructură globală de cunoaștere pentru lumea pe care o avem sau pentru lumea pe care încercăm să o creăm? Citește mai multe despre rezumatul Open Science: Cum să contezi preprint-urile 
