FLASH
Shkruar nga Pamfleti
Many of its creators warn of growing dangers as the use of AI in warfare, cyberattacks and security operations becomes increasingly common...
Whether Dario Amodei will emerge as a winner or loser from last week's developments remains unclear. On the one hand, the CEO of Anthropic achieved a significant public image success with his principled stance against the US Department of Defense.
Anthropic, the company behind the Claude artificial intelligence model and considered by many experts to be one of the leading forces in the race to develop the most advanced artificial intelligence, banned the Pentagon from using Claude for mass surveillance of American citizens and for autonomous weapons systems.
Amodei stated that he believes that "in a limited range of uses, artificial intelligence can undermine democratic values."
This stance was welcomed by many. The developers of Anthropic once again managed to present themselves as responsible actors in the global race for artificial intelligence. Singer Katy Perry even published a screenshot on social media showing that she had purchased an annual subscription to Claude.
On the other hand, the future of the entire company could be in question. US Secretary of Defense Pete Hegseth immediately classified Anthropic as a supply chain risk, in the same category as Chinese telecommunications company Huawei. Military suppliers have already begun canceling contracts with Anthropic.
However, Dario Amodei is not the only one warning about the dangers of artificial intelligence. Many of the brightest minds in AI development are among those who warn the most loudly about its dangers. This leads the average person to ask: if the creators themselves say so, should we take them seriously?
Doubts about reliability
For a long time, the debate over the dangers of AI suffered from a credibility problem, because the strongest warnings were also the most abstract. This situation has changed. Today, the threats have become more concrete. Some of them no longer belong to the future, but are already part of reality.
Before large language models became ubiquitous in almost every application, the main warnings related to the idea of a form of superior intelligence that could one day turn against humanity. A famous example is the thought experiment called the “paperclip factory,” where an AI programmed to produce paperclips would use up all of the Earth’s resources for that purpose, with no regard for human life.
Besueshmëria e skenarëve të tillë është vënë shpesh në dyshim. Kur edhe Elon Musk iu bashkua në vitin 2023 thirrjes për një moratorium mbi zhvillimin e AI, disa e interpretuan këtë si një strategji marketingu: nëse rreziqet janë kaq të mëdha, atëherë teknologjia duhet të jetë revolucionare dhe shumë e vlefshme.
Megjithatë, në qarqet më radikale të kritikëve të AI këto ide vazhdojnë të ekzistojnë. Një bestseller i vitit të kaluar nga dy studiues të inteligjencës artificiale paralajmëronte: “Nëse dikush e ndërton, të gjithë do të vdesin”. Autorët bazohen në supozimin se për shkak të rritjes eksponenciale të aftësive, herët a vonë do të arrihet AGI, inteligjenca e përgjithshme artificiale, një sistem që mund të bëjë po aq ose më shumë se një njeri.
“Oppenheimeri” i botës së AI
Disa ekspertë argumentojnë se skenarët katastrofikë mund të largojnë vëmendjen nga rreziqet reale të së tashmes. Deepfake pornografike, fushata dezinformimi dhe sulme kibernetike janë vetëm disa nga problemet që tashmë kanë lindur, shumë përpara se AI të arrijë inteligjencën njerëzore.
Disa ekspertë, si ish-studiuesi i Meta-s Yann LeCun, madje dyshojnë se lloji i inteligjencës artificiale që qëndron pas Claude dhe ChatGPT mund të arrijë ndonjëherë nivelin e superinteligjencës. Sipas tyre, përparimet e mëdha të viteve të fundit mund të ngadalësohen në të ardhmen.
Kompania e Amodeit u krijua pikërisht si një alternativë e përqendruar te siguria ndaj zhvilluesit të ChatGPT, OpenAI. Sipas raportimeve, Amodei u jep të gjithë punonjësve të rinj një libër të detyrueshëm për lexim: “The Making of the Atomic Bomb”. Libri përshkruan se si zbulimet në fizikën themelore në fillim të shekullit XX çuan në ndërtimin e bombave atomike që u përdorën në Hiroshima dhe Nagasaki.
Krahasimi është i zymtë. Në ese të gjata, Amodei reflekton shpesh mbi zhvillimet e fundit të teknologjisë së tij dhe mbi pasojat e mundshme nëse të gjithë do të kishin qasje në një superinteligjencë. Në janar ai shkroi se një person i vetmuar dhe i paqëndrueshëm, që dëshiron të vrasë njerëz por nuk ka aftësitë e nevojshme, mund të arrijë papritur nivelin e një virologu me doktoraturë.
Kjo përfaqëson një ndryshim thelbësor nga skenarët e superinteligjencës: rreziqet nuk vijnë më nga makinat që rebelohen, por nga njerëzit që përdorin AI me qëllime të këqija ose të pakujdesshme.
Nëse inteligjenca artificiale është “bomba atomike e shekullit XXI”, atëherë Yoshua Bengio mund të konsiderohet si një lloj Robert Oppenheimeri i kësaj historie. Bengio është një nga studiuesit më të cituar në botë dhe një nga pionierët e inteligjencës artificiale. Në vitin 2018 ai fitoi çmimin Turing për punën e tij mbi rrjetet nervore.
Ashtu si Oppenheimeri që më vonë u përball me pasojat e krijimit të bombës atomike, edhe Bengio shpreh shqetësim për mënyrën se si po përdoret sot inteligjenca artificiale dhe për atë që mund të ndodhë në të ardhmen.
AI ende planifikon si një fëmijë gjashtëvjeçar
Sot Bengio kërkon të ndikojë në politikanë dhe struktura ushtarake duke paralajmëruar për rreziqet. Ai përmend eksperimente ku modele të inteligjencës artificiale kanë tentuar të shmangin çaktivizimin e tyre. Në një rast, modeli kishte akses në email-et e një inxhinieri ku përmendej një lidhje jashtëmartesore dhe kërcënoi se do t’i publikonte ato nëse çaktivizohej.
Në një skenar tjetër të simuluar, modelet e AI duhej të vendosnin nëse do të ftohnin një dhomë serverësh që po mbinxehej për të shpëtuar një inxhinier. Modelet zgjodhën të linin njeriun të vdiste.
Megjithatë, këto janë vetëm simulime. Në praktikë, raste të tilla nuk janë vërejtur ende.
Rreziqet më konkrete lidhen me përdorimin e AI nga njerëz me qëllime të dëmshme. Bengio paralajmëron se tashmë është arritur një prag ku modelet më të fuqishme mund të ndihmojnë edhe persona pa përvojë të zhvillojnë armë biologjike. Sipas tij, kjo pikë është arritur nga modelet më të avancuara amerikane dhe modelet kineze mund ta arrijnë shumë shpejt.
Modelet e kompanive kineze shpesh mund të instalohen dhe modifikohen lokalisht në kompjuter, gjë që e bën më të vështirë kontrollin e abuzimit nga ana e kompanive zhvilluese.
Kompanitë si OpenAI dhe Anthropic përpiqen të kufizojnë përdorimin e rrezikshëm duke vendosur barriera sigurie në modelet e tyre. Por Bengio mbetet skeptik: askush ende nuk e di saktësisht si të zgjidhet ky problem.
AI tashmë përdoret në luftë
Në kohë lufte, inteligjenca artificiale është tashmë pjesë e operacioneve ushtarake. Përveç Ukrainës, ku përdoret për drejtimin autonom të dronëve dhe analizën e materialeve video, AI është bërë thelbësore edhe për ushtrinë amerikane.
Sipas raportimit të Washington Post, Pentagoni përdor një kombinim të softuerit të mbikëqyrjes së kompanisë Palantir dhe modelit Claude të Anthropicit për të analizuar sasi të mëdha informacioni dhe për të identifikuar objektiva në Iran.
Edhe skenarë të tjerë kërcënues janë bërë tashmë realitet. Në vjeshtën e kaluar, hakerë kinezë përdorën Claude për një sulm kibernetik ndaj 30 organizatave. Sipas Anthropicit, 80 deri në 90 për qind e operacionit u krye nga AI, ndërsa ndërhyrja njerëzore ishte vetëm sporadike.
Në shkurt u bë e ditur gjithashtu se hakerë depërtuan në databazat e institucioneve qeveritare në Meksikë, përfshirë administratën tatimore, dhe vodhën të dhënat e miliona tatimpaguesve – gjithashtu me ndihmën e Claude.
Shumë nga këto probleme, sipas studiuesve, mund të lidhen me mënyrën se si inteligjenca artificiale përshtatet me vlerat dhe nevojat njerëzore. Bengio ka krijuar organizatën jofitimprurëse Law Zero, e cila synon të zhvillojë baza më të sigurta për sistemet e ardhshme të AI.
Anthropic has also previously promised an approach similar to the concept of “constitutional AI,” where during training the model is given a framework of values that it must follow. However, Bengio argues that this is not enough. According to him, it is not enough to simply tell the AI what not to do; safety must be built in from the earliest stages of development.
He adds that commercial artificial intelligence companies often have an economic incentive to move forward despite the risks.
According to the Financial Times, Dario Amodei was again in talks with the US Department of Defense in recent days, seeking a compromise. /Adapted from Pamphlet by FAZ /
Lini një Përgjigje