Umelá inteligencia si postupne nachádza svoje miesto aj v obchode a podnikaní. Aby však jej implementácia do firmených procesov bola prínosná, mala by mať jasne zadefinované pravidlá. Aj o tom sa dočítate v rozhovore nášho výkonného riaditeľa, Martina Lohnerta, pre magazín Forbes.
Je využívanie umelej inteligencie v biznise bezpečné?
Spoločnosti, ktoré sa chystajú zaviesť umelú inteligenciu do svojich procesov, by si mali dávať pozor. Dôvodov je hneď niekoľko.
Prvým môžu byť etické a právne dôsledky. Používanie AI môže napríklad porušovať ochranu súkromia, ale i platné právne normy. Okrem toho je dobré pamätať na to, že kvalita a správnosť výstupov AI je závislá od vstupných dát. Tie môžu mať citlivú povahu, často sú chybné či zastarané. To vedie k nepresným alebo nedôveryhdne pôsobiacim výsledkom. Je preto vhodné, aby mali organizácie nastavené postupy na zabezpečenie kvality a správnosti vstupných dát.
Zavádzanie umelej inteligencie do existujúcich firemných procesov môže byť zložité a náročné. Preto je dôležité, aby spoločnosti vykonali potrebné opatrenia na minimalizáciu rizík a zabezpečenie úspešného a bezpečného nasadenia AI nástrojov.
Umelá inteligencia – akú sú jej riziká?
Modely AI sú predmetom pretrvávajúcich obáv zo škodlivého a neobjektívneho výstupu. No predstavujú oveľa väčšie riziko, ako si myslíme. Keď sa totiž spoja s nástrojmi, ktoré umožňujú automatizovanú interakciu s inými systémami, môžu samy osebe pôsobiť ako zákerní agenti. A tí podľa najnovších informácií dokážu autonómne hackovať webové stránky a vykonávať také zložité úlohy, ako je napríklad „blind database schema extraction“ a „SQL injections“ bez ľudskej spätnej väzby.
Môže AI halucinovať? Dokáže za nás úspešne vyriešiť triviálnu matematickú úlohu? A aké sú vôbec „best practices“ a naše odporúčania pre prácu s AI nástrojmi?
Aj to sa dočítate v magazíne Forbes: Umelá inteligencia pôsobí sebaisto, no nerozozná mačku od psa, vraví odborník zo Soitronu.
