Search

"Cilvēki apiet ugunsmūrus, kopš tie tika izgudroti deviņdesmitajos gados. Mākslīgais intelekts ir trenēts uz cilvēku radītiem datiem, un tas to dara labāk. Šīs MI sistēmas ir ļoti labas hakerēšanā, un daļu no tā tās, var teikt, dara pašas, jo tām tiek dots mērķis un tās šo mērķi sasniedz ar jebkādiem iespējamiem līdzekļiem, līdzīgi kā cilvēki. Mēs redzam daudz piemēru, kuros MI sasniedz mērķi veidos, kurus mērķa devēji negribēja vai nebija paredzējuši. Vai tā ir MI problēma? Tā ir problēma ar mērķiem. Tā ir problēma ar sistēmām. Tas ir sarežģīti."To komentārā "Pasaules panorāmai" atzīmēja kiberdrošības eksperts un Hārvarda universitātes lektors Brūss Šneiers. #MākslīgaisIntelekts #Kiberdrošība #Progresība

"Tas, kas šeit ir zīmīgi, ka "OpenAI" savos testos modelim lika iegūt datus. Un, kad tas sastapās ar šķēršļiem un nevarēja iegūt nepieciešamos datus, tas nolēma mēģināt izmantot ievainojamības. Mēs neredzējām ļoti dziļu ielaušanos, taču tas ir brīdinājuma signāls: mākslīgā intelekta aģenti, cenšoties sasniegt bieži vien pavisam ikdienišķus mērķus, var ķerties pie sistēmu ievainojamību izmantošanas."Kāpēc aģents, pildot šķietami vienkāršu uzdevumu, vispār ķērās pie sistēmas ievainojamībām, "Pasaules panorāmai" skaidroja kiberdrošības pētnieks Džeks Keibls: #MākslīgaisIntelekts #Kiberdrošība #Progresība