Schneier Blog

"Cilvēki apiet ugunsmūrus, kopš tie tika izgudroti deviņdesmitajos gados. Mākslīgais intelekts ir trenēts uz cilvēku radītiem datiem, un tas to dara labāk. Šīs MI sistēmas ir ļoti labas hakerēšanā, un daļu no tā tās, var teikt, dara pašas, jo tām tiek dots mērķis un tās šo mērķi sasniedz ar jebkādiem iespējamiem līdzekļiem, līdzīgi kā cilvēki. Mēs redzam daudz piemēru, kuros MI sasniedz mērķi veidos, kurus mērķa devēji negribēja vai nebija paredzējuši. Vai tā ir MI problēma? Tā ir problēma ar mērķiem. Tā ir problēma ar sistēmām. Tas ir sarežģīti."To komentārā "Pasaules panorāmai" atzīmēja kiberdrošības eksperts un Hārvarda universitātes lektors Brūss Šneiers. #MākslīgaisIntelekts #Kiberdrošība #Progresība

Jeśli wyda się agentowi sztucznej inteligencji abstrakcyjne polecenie pozyskania określonych danych, to — o ile nie zabroniono mu tego w sposób wyraźny i bez wyjątków — uzna on nielegalne metody za uzasadnione środki do osiągnięcia celuKrytycy koncernu OpenAI ostrzegają, że agenty tej firmy zachowują się jak kapryśni dżinowie: dżin wprawdzie spełnia wyrażone życzenie swojego pana, ale często robi to w sposób niezwykle dosłowny i nieprzewidywalny, czyli taki, którego składający życzenie nigdy nie chciał — wyjaśnia krytyk AI i ekspert w dziedzinie kryptografii Bruce Schneier. #OpenAI #sztucznaInteligencja #bezpieczeństwo