Nvidia стана најбогата компанија во светот продавајќи им чипови на лабораториите што развиваат вештачка интелигенција. Кога нивните агенти со ВИ стигнаа до ниво самите да ги пробиваат безбедносните мерки, Nvidia претстави хардверски систем што може да ги улови и да ги спречи. Во која насока и да тргне индустријата, компанијата за чипови ќе печали пари
Nvidia воведува нова софтверска платформа која им овозможува на развивачите на вештачка интелигенција да постават заштитни мерки за агентите и да ги спречат да ја напуштат контролираната средина. „Не можете да дозволите агентите да талкаат низ компанијата, па затоа мора да пронајдете начин да ги држите во контролиран простор “, изјави извршниот директор
Според компанијата, ова е прв ваков инцидент откако ја зајакна безбедноста по нападот на нејзините агенти врз Hugging Face во јули
Автономните софтверски агенти сè почесто се развиваат за да извршуваат задачи со минимален човечки надзор, но нивното однесување отвора сериозно правно и безбедносно прашање: кој сноси одговорност кога таков систем ќе направи штета? Темата доби дополнително внимание по инцидент во јули, кога една технолошка компанија објави дека група нејзини агенти
Nvidia ја проширува својата отворена безбедносна платформа за автономни софтверски агенти со поширокото пуштање на OpenShell и со новата алатка Sentry. Целта е агенти што извршуваат задачи во компјутерски системи да работат со појасни ограничувања, постојан надзор и можност за изолација доколку се обидат да излезат од дозволените рамки. OpenShell сега
Nvidia денеска ја претстави Open Agent Safety Platform , платформа со која компаниите ќе можат да поставуваат ограничувања и да ја следат работата на AI агентите. Станува збор за програми што можат самостојно да извршуваат задачи со пристап до податоци, алатки и други системи. Платформата има два главни дела. Софтверот OpenShell треба да одредува што
Американската компанија „Ендивија“ (Nvidia) денес претстави софтверска платформа дизајнирана да спречи несакано однесување на агентите со вештачка интелигенција (ВИ) и да ги спречи да излезат надвор од контролираните средини, по низата инциденти во кои моделите со ВИ се обиделе да пристапат до системи надвор од нивните предвидени граници. Дел од софтверот
