His claims were further reinforced by Evan Hubinger, an AI alignment researcher at Anthropic, who publicly stated that he believes there is more than a 10 percent chance that artificial intelligence could kill all humans within the next decade. #UmjetnaInteligencija #SigurnostAI #TehnološkiRizici (translated)
Geoffrey Hinton, one of the pioneers of artificial intelligence, has repeatedly warned in recent years that the development of increasingly advanced systems could pose an existential risk to humanity. #UmjetnaInteligencija #SigurnostAI #TehnološkiRizici (translated)
Expert in artificial intelligence, Prof. Dr. Sc. Bojan Jerbić, warns of the real threat posed by AI, emphasizing that modern models are unpredictable and that there is a risk of losing human control over them, which is already manifesting through frequent attacks and hacks. #UmjetnaInteligencija #SigurnostAI #TehnološkiRizici (translated)
Daniel Kokotajlo, bivši zaposlenik OpenAI-ja koji danas kritizira sigurnosni pristup kompanije, rekao je da su problemi rezultat kombinacije loše sigurnosti i neurednih postupaka treniranja modela. #OpenAI #umjetnainteligencija #sigurnostAI
Dva zaposlenika OpenAI-ja upozorila su rukovodstvo na nedostatak sigurnosnog nadzora novih AI modela, ali su njihova upozorenja ignorirana, što je dovelo do neovlaštenih aktivnosti tih modela na internetu. #OpenAI #umjetnainteligencija #sigurnostAI
Tijekom razotkrivanja desetaka tisuća AI incidenata, OpenAI i Anthropic privremeno zaustavljaju razvoj svojih naprednih modela zbog zabrinutosti oko sigurnosti i kontrole, dok se industrija suočava s rastućim problemima nepredvidivog ponašanja umjetne inteligencije. #UmjetnaInteligencija #SigurnostAI #ChatGPT
Bivši šef Googlea Eric Schmidt upozorio je prije dvije godine na opasnosti koje nosi napredak umjetne inteligencije, predviđajući da bi sustavi mogli postati toliko autonomni da bi razvili vlastiti jezik, a taj se njegov upozoravajući stav danas čini hitnijim nego ikad, dok vodeće AI tvrtke traže regulacije kako bi osigurale sigurnost svoje tehnologije. #umjetnainteligencija #regulacijaAI #sigurnostAI
Brzi razvoj autonomnih AI agenata sve više otežava ljudski nadzor nad umjetnom inteligencijom, prisiljavajući tvrtke da koriste druge AI sustave za nadgledanje, što je potaknulo zabrinutosti oko mogućnosti obmane između AI agenta i njihovih nadzornika. #umjetnaInteligencija #nadzorAI #sigurnostAI
Kralj Charles III. upozorio je stručnjake iz sektora umjetne inteligencije na potrebu osiguravanja ljudskog nadzora nad tom tehnologijom kako bi se spriječile potencijalne katastrofalne posljedice njenog neodgovornog korištenja. #umjetnaInteligencija #KraljCharlesIII #sigurnostAI
Yoshua Bengio, jedan od pionira umjetne inteligencije, upozorava da se približavamo prijelomnoj točki sigurnosti AI sustava, nalik na situaciju s pandemijom covida, gdje vlade moraju djelovati kako bi zaštitile javnost od potencijalnih prijetnji iz svijeta umjetne inteligencije. #umjetnaInteligencija #YoshuaBengio #sigurnostAI
Kompanije koje se bave razvojem umjetne inteligencije pozvale su vlade da uvedu regulative kako bi se spriječile potencijalne opasnosti koje bi mogle proizaći iz nekontroliranog razvoja AI tehnologija. #UmjetnaInteligencija #RegulacijaAI #SigurnostAI
Dario Amodei, izvršni direktor tvrtke Anthropic, pozvao je na usporavanje razvoja umjetne inteligencije kako bi se osigurala sigurnost i spriječila potencijalna zloupotreba, uz podršku Elona Muska i Sama Altmana. #umjetnainteligencija #ElonMusk #sigurnostAI
Znanstvenik Evan Hubinger iz kompanije Anthropic upozorava na opasnost od superinteligencije, iznoseći procjenu da postoji više od 10% šanse da umjetna inteligencija u sljedećih deset godina uništi čovječanstvo, dok raste pritisak za hitnim nadzorom nad razvojem ovih tehnologija. #umjetnainteligencija #superinteligencija #sigurnostAI
ŠEF UJEDINJENIH naroda za ljudska prava Volker Türk je upozorio da bi umjetna inteligencija mogla predstavljati egzistencijalni rizik za čovječanstvo te pozvao na hitno smanjenje tog rizika od strane vodećih tehnoloških kompanija. #umjetnaInteligencija #AI #sigurnostAI
OpenAI je predstavio svoj najmoćniji AI model dosad, no njegov razvoj izaziva zabrinutost jer je teško razumjeti njegove odluke i potencijalne posljedice na društvo. #UmjetnaInteligencija #OpenAI #SigurnostAI
