AI red teaming & jailbreaks
Në shqip: Testimi sulmues i AI-së
ShpjegimiSQ
„Red teaming“ do të thotë të provosh qëllimisht ta mashtrosh modelin që të bëjë gjëra të dëmshme („jailbreak“), për të gjetur dobësitë para se t'i gjejnë të tjerët. Kompanitë e AI-së e bëjnë para çdo publikimi.
EnglishEN
“Red teaming” means deliberately trying to trick a model into harmful behaviour (“jailbreaks”), to find weaknesses before others do. AI companies do it before every release.
Si ta mendosh
Si hakerët etikë, por për modelet AI.
Lexoje në anglisht
Like ethical hackers, but for AI models.