Ovidiu Bernaschi
B.Sc. Hons. in Computer Applications Information Systems
Coordonator: Lect. Univ. Dr. Tiberiu Tănase
Președinte CSIS &GA, Secretar DIS/ CRIFST, Lector univ asociat Universitatea Română – Americană
Abstract
În era tehnologiilor emergente, inteligența artificială (I.A.) modelează profund societatea. Prezentarea Cyber-Fiction or Science-FACT dezvăluie două fațete esențiale ale impactului I.A.:
- Riscurile globale: Bazându-se pe Buletinul Oamenilor de Știință din Domeniul Atomic și Raportul Riscurilor Globale 2024 al Forumului Economic Mondial, prezentarea scoate în evidență provocări precum dezinformarea amplificată de I.A., armele autonome și utilizările sale în conflicte, dar și vulnerabilitatea sistemelor democratice.
- Reglementarea etică: În acest context, Uniunea Europeană promovează AI Act, un set de reguli armonizate pentru dezvoltarea responsabilă a I.A. Acesta vizează utilizarea tehnologiilor emergente în sănătate, educație și infrastructură, garantând beneficii etice și sociale. Aceste direcții subliniază urgența colaborării internaționale pentru a transforma I.A. într-o forță pozitivă.
Introducere
Cyber-fiction, un gen literar și cinematografic care explorează impactul tehnologiilor avansate asupra societății, a captivat imaginația publicului timp de decenii. De la romanul „Neuromancer” al lui William Gibson, care a introdus conceptul de cyberspace, la filme precum „The Matrix” și „Blade Runner”, care au explorat realitățile simulate și inteligența artificială, cyber-fiction-ul ne-a provocat să ne gândim la viitorul umanității într-o lume din ce în ce mai tehnologizată.
Teme cheie ale cyber-fiction-ului:
- Tehnologie și umanitate: Cum ne transformă tehnologia identitatea și relațiile?
- Viitoruri distopice: Controlul corporatist sau autoritar și impactul asupra libertății individuale.
- Inteligența artificială: Dilemele etice ale conștiinței artificiale și ale singularității tehnologice.
- Realități virtuale și cyberspace: Evadarea în lumi digitale și impactul asupra realității.
De la ficțiune la realitate:
Multe dintre conceptele explorate în cyber-fiction au devenit realitate sau sunt pe cale să devină. Internetul, realitatea virtuală, inteligența artificială și biotehnologia sunt doar câteva exemple de tehnologii care au fost anticipate de scriitori și regizori de cyber-fiction.
Impactul asupra societății:
Cyber-fiction-ul ne provoacă să ne gândim la implicațiile etice și sociale ale tehnologiei. Cum ne putem proteja valorile umane într-o lume dominată de tehnologie? Cum putem asigura că tehnologia este folosită în beneficiul umanității și nu pentru a o controla sau exploata?
Cyber-fiction-ul și securitatea cibernetică:
Odată cu dezvoltarea inteligenței artificiale, apar noi amenințări la adresa securității cibernetice. Atacurile cibernetice devin mai sofisticate, iar organizațiile trebuie să se adapteze pentru a se proteja.
Legislația privind IA:
Uniunea Europeană a adoptat recent Actul privind IA, un cadru legal cuprinzător care reglementează utilizarea inteligenței artificiale. Această legislație are ca scop protejarea drepturilor fundamentale și promovarea unei utilizări responsabile a IA.
Concluzii:
Cyber-fiction-ul este mult mai mult decât doar divertisment. Este o modalitate de a explora viitorul, de a ne pune întrebări dificile despre tehnologie și umanitate, și de a ne pregăti pentru provocările care ne așteaptă și riscurile la nivelul societății care fac convergență pe individ.
Una dintre soluțiile oferite de Ovidiu Bernaschi pentru a ne atinge potențialul maxim în contextul dezvoltării umane și al integrării inteligenței artificiale in viată, este modelul educațional E.P.I.C. care este un acronim pentru Emoțional, Fizic (Physical), Intelectual, Conștiință.
- Dimensiunea Emoțională: Cultivă empatia, inteligența emoțională și abilitățile sociale, esențiale pentru a gestiona relațiile umane în era IA.
- Dimensiunea Fizică: Menține sănătatea fizică prin exerciții, nutriție și odihnă, pentru a susține energia și claritatea mentală.
- Dimensiunea Intelectuală: Îmbunătățește capacitatea de gândire critică, învățarea continuă și adaptarea rapidă la noile tehnologii.
- Dimensiunea Conștiinței: Integrează etica și conștientizarea globală în interacțiunile cu IA, asigurând un echilibru între progresul tehnologic și valori umane.
Adoptarea acestui model holistic de educație si dezvoltare umana, ajută la creșterea rezilienței, menținerea relevanței în fața schimbărilor rapide și îmbunătățirea vieții personale și profesionale.
Întrebări pentru reflecție
Despre impactul tehnologiei:
- Cum putem echilibra beneficiile tehnologiei cu protejarea valorilor umane și a mediului înconjurător?
- Cum ne putem pregăti pentru o piață a muncii transformată de automatizare și inteligența artificială?
- Cum putem utiliza tehnologia pentru a promova incluziunea socială și a reduce inegalitățile?
- Care sunt implicațiile etice ale utilizării tehnologiei pentru a spori capacitățile umane (de exemplu, prin implanturi neuronale)?
Despre inteligența artificială:
- Cum putem asigura că sistemele de IA sunt transparente și explicabile?
- Cum putem preveni discriminarea algoritmică și asigura echitatea în utilizarea IA?
- Cine este responsabil pentru daunele cauzate de sistemele de IA?
- Ar trebui să acordăm drepturi și responsabilități mașinilor inteligente?
Despre legislația privind IA:
- Cum putem asigura că legislația privind IA este eficientă și se adaptează rapid la evoluția tehnologiei?
- Care este rolul societății civile în guvernanța IA?
- Cum putem promova o colaborare globală pentru a aborda provocările IA?
- Care sunt implicațiile geopolitice ale cursei globale pentru dominația în domeniul IA?
Notite prezentare
Inteligența Artificială (I.A.)
- Capacitatea unei mașini de a imita funcții umane, cum ar fi raționamentul, învățarea, planificarea și creativitatea.
- Permite sistemelor tehnice să perceapă mediul în care funcționează, să prelucreze această percepție și să rezolve probleme, acționând pentru a atinge un anumit obiectiv.
- Capabilă să își adapteze răspunsurile și comportamentul, analizând efectele acțiunilor anterioare și funcționând autonom.
Pericolele IA menționate în 2024 de Buletinul Oamenilor de Știință din Domeniul Atomic
- Proliferarea armelor autonome
- Dezinformarea și manipularea
- Eroziunea confidențialității
- Concentrarea puterii
- Accidente și erori
Riscurile IA evidențiate în Raportul Riscurilor Globale 2024 al Forumului Economic Mondial
- Dezinformarea și manipularea
- Eroziunea coeziunii sociale
- Instabilitate geopolitică
- Șomaj și inegalitate
- Accidente și utilizare abuzivă
- Criza existențială
Amenințări la adresa securității cibernetice generate de IA
- Atacuri de phishing avansate
- Malware generat de IA
- Atacuri deepfake
- Exploatarea automată a vulnerabilităților
- Atacuri de tip „credential stuffing”
- Botneți automatizați
- Atacuri adversarial machine learning
Utilizari IA în securitatea cibernetică
- Detectarea amenințărilor
- Analiza comportamentală
- Predicția amenințărilor
- Identificarea malware-ului
- Răspuns la incidente
- Automatizarea răspunsului
- Analiza incidentelor
- Prevenirea atacurilor
- Securizarea autentificării
- Gestionarea vulnerabilităților
- Securizarea email-urilor
- Îmbunătățirea eficienței operațiunilor de securitate
- Automatizarea sarcinilor
- Analiza datelor
Amenințările persistente avansate (APT) alimentate de IA (APT-IA)
APT-IA reprezintă o nouă generație de atacuri cibernetice sofisticate care utilizează IA pentru a-și spori eficacitatea și a evita detectarea. Aceste atacuri sunt de obicei orchestrate de actori statali sau grupuri criminale organizate care dispun de resurse și expertiză semnificative.
Caracteristici APT-IA:
- Automatizare:
- IA permite automatizarea multor etape ale unui atac APT, de la scanarea inițială a țintelor până la exfiltrarea datelor.
- Adaptabilitate:
- IA permite APT-urilor să se adapteze la mediul țintă și să-și modifice tacticile în timp real pentru a evita detectarea.
- Eficiență:
- IA poate analiza volume mari de date și poate identifica rapid vulnerabilitățile, ceea ce face ca APT-urile să fie mai eficiente în atingerea obiectivelor lor.
- Evaziune:
- IA poate fi folosită pentru a crea malware polimorfic, care își schimbă codul pentru a evita detectarea de către software-ul antivirus tradițional.
Pericole APT-IA
- Atacuri mai sofisticate:
- APT-urile alimentate de IA sunt mai greu de detectat și de neutralizat decât atacurile tradiționale.
- Ținte de înaltă valoare:
- APT-urile alimentate de IA vizează adesea organizații de înaltă valoare, cum ar fi guverne, instituții financiare și companii din domeniul infrastructurii critice.
- Daune semnificative:
- APT-urile alimentate de IA pot provoca daune semnificative, inclusiv pierderi financiare, furt de date sensibile și întreruperea operațiunilor critice.
- Creșterea costurilor de securitate:
- Organizațiile trebuie să investească în soluții de securitate cibernetică mai avansate pentru a se proteja de APT-urile alimentate de IA.
Măsuri de protecție împotriva APT-IA
- Soluții de securitate bazate pe IA:
- Implementarea de soluții de securitate cibernetică care utilizează IA pentru a detecta și a preveni atacurile.
- Instruirea angajaților:
- Educarea angajaților cu privire la riscurile cibernetice și la modul de identificare a atacurilor de phishing și a altor tactici de inginerie socială.
- Monitorizarea rețelei:
- Monitorizarea constantă a traficului de rețea pentru a identifica activități suspecte.
- Actualizarea software-ului:
- Menținerea la zi a software-ului și a sistemelor de operare pentru a corecta vulnerabilitățile cunoscute.
- Plan de răspuns la incidente:
- Elaborarea unui plan de răspuns la incidente pentru a gestiona eficient atacurile cibernetice.
Cyber-Fiction: Science-FACT? (PDF)
De la Neuromancer la Metaverse: O incursiune în lumea cyber-fiction și impactul ei asupra tehnologiei și societății
Lasă un răspuns