171635 – 25032024 – Comisia și comunitatea de cercetare elaborează orientări privind utilizarea responsabilă a inteligenței artificiale generative în cercetare.
Comisia, țările din Spațiul european de cercetare și părțile interesate au elaborat un set de orientări pentru a sprijini comunitatea europeană de cercetare în utilizarea responsabilă a inteligenței artificiale generative (IA). Aceste linii directoare oferă recomandări simple și acționabile comunității de cercetare cu privire la utilizarea IA generative. Acestea vizează 3 actori principali din domeniul cercetării: cercetători, organizații de cercetare și organizații de finanțare a cercetării.
Astfel, cercetătorii sunt responsabili pentru rezutatele științifice obținute cu ajutorul IA, pentru integritatea conținutului, trebuie să-ți mențină atitudinea critică față de rezultatele obținute cu ajutorul IA, ținând cont de limitările IA, subiectivism, potențiala dezinformare sau inexactități, vor face publice instrumentele de IA generativă folosite, sunt responsabili de respectarea confidențialității datelor cu caracter personal și a drepturilor de proprietate intelectuală și au obligația să nu încarce în mediul online rezultatele cercetărilor nepublicate sau sensibile, pentru a nu fi folosite pentru antrenarea IA.
Deși instrumentele de IA generativă oferă rapiditate și comoditate în producerea de texte, de imagini și de programe informatice, cercetătorii trebuie să țină seama de limitările tehnologiei, inclusiv de potențialul de plagiat, de dezvăluirea de informații sensibile sau de prejudecățile inerente ale modelelor.
Dată fiind răspândirea rapidă a utilizării acestei tehnologii în toate domeniile, inclusiv în domeniul științific, recomandările cuprinse în orientări abordează oportunități și provocări esențiale, pe baza principiilor privind integritatea cercetării, oferind îndrumare cercetătorilor, organizațiilor și finanțatorilor, pentru o abordare comună în întreaga Europă.
Pentru ca IA generativă să fie utilizată într-un mod responsabil, organizațiile care finanțează cercetarea trebuie să țină cont de principiul responsabilității, care pune accentul pe responsabilitate și pe supravegherea umană.
Întrucât IA generativă evoluează în mod constant, aceste orientări vor fi actualizate pe baza feedback-ului primit regulat de la comunitatea științifică și de la părțile interesate.
Noul Regulament privind inteligența artificială al UE introduce, de asemenea, norme specifice pentru modelele de IA de uz general, inclusiv pentru modelele de IA generativă de mari dimensiuni. Aceste noi obligații vor asigura transparența de-a lungul lanțului valoric și vor fi operaționalizate prin coduri de practică. Noul Oficiu pentru IA va juca un rol esențial în punerea în aplicare a Regulamentului privind inteligența artificială, inclusiv în ceea ce privește normele pentru modelele de IA de uz general.
Pachetul privind inovarea în domeniul IA, lansat în ianuarie 2024, oferă sprijin financiar special pentru IA generativă și include, de asemenea, inițiative de atragere, de formare și de păstrare a specialiștilor în IA generativă.
