66% firm chce podejmować decyzje wykorzystując AI

Z przeprowadzonego przez Progress badania wynika, że zarządy większości firm rozumieją znaczenie tego zjawiska i uważają, że jest ono powszechne w ich przedsiębiorstwach, ale napotykają problemy z jego skuteczną neutralizacją. Sztuczna inteligencja szturmem zdobywa kolejne branże – od ochrony zdrowia przez finanse po e-commerce i produkcję. Firmy coraz chętniej wykorzystują AI do podejmowania decyzji na bazie reguł dotyczących np. określania zdolności kredytowej czy segmentacji klientów.

Korzyści w postaci poprawy wydajności pracy, obniżenia kosztów czy przyspieszenia rozwoju firm są zauważalne dla ich właścicieli oraz konsumentów, którzy zyskują sprawniejszą i szybszą obsługę. Warto jednak pamiętać, że procesy stojące za wykorzystaniem AI mają pewną wadę – dane wykorzystywane do zasilania tych systemów nie są neutralne. Zawsze istnieje jakaś forma wykreowanego uprzedzenia, które wynika z charakteru medium, za pomocą którego dane zostały zaczerpnięte. Sztuczna inteligencja odzwierciedla i wzmacnia uprzedzenia swoich twórców, co rodzi obawy etyczne związane z prywatnością, bezpieczeństwem, stereotypami i obiektywną oceną.

– Z tendencyjnością danych mamy do czynienia wtedy, gdy ze względu na obecne w nich błędy, określona grupa faworyzowana jest kosztem innej. Zazwyczaj skutkiem tego jest podejmowanie przez algorytm niesprawiedliwych decyzji, gdyż dostępne dane nie odzwierciedlają w dokładny sposób postaw całej reprezentowanej populacji. Tendencyjność powoduje różnice między przewidywanymi, a rzeczywistymi wartościami modelu. Te uprzedzenia mogą być oparte na stereotypach, a nie na konkretnej wiedzy o osobach lub okolicznościach – mówi Niklas Enge, Dyrektor Regionalny Nordics i Polska w firmie Progress.

Jak zapobiegać tendencyjności danych?

Przeprowadzone przez Progress badanie wykazało, że 78% osób odpowiedzialnych za podejmowanie decyzji biznesowych i związanych z IT uważa, iż różnego rodzaju uprzedzenia obecne w danych staną się większym problemem wraz ze wzrostem wykorzystania AI/ML. Jednak tylko 13% obecnie zajmuje się tym zjawiskiem i wypracowało stały proces oceny jego skali.

Największe bariery, jakie dostrzegają ankietowani, to brak świadomości występowania tendencyjności danych, zrozumienia, jak identyfikować uprzedzenia, a także brak dostępu do zasobów eksperckich, takich jak konsultacje z naukowcami zajmującymi się danymi. Chcąc zapobiegać zjawisku tendencyjności danych należy zastosować podejście, które będzie wynikało bezpośrednio z polityki i kultury organizacyjnej w firmie.

Sztuczna inteligencja oraz uczenie maszynowe są coraz bardziej zintegrowane z operacjami biznesowymi. Takie podejście powinno obejmować ustanowienie standardów etycznych, najlepszych praktyk w zakresie gromadzenia danych i opracowywania modeli, regularną ocenę modeli, bieżące monitorowanie oraz współpracę między wszystkimi stronami zaangażowanymi w ich wykorzystanie. Źródło: Badanie Progress „Data Bias: The Hidden Risk of AI”

O firmie

Progress Firma Progress (Nasdaq: PRGS), której celem jest wspieranie rozwoju biznesu w świecie zdominowanym przez rozwiązania technologiczne, pomaga przedsiębiorcom w przyspieszaniu innowacji, nadawaniu im rozpędu i budowaniu drogi do sukcesu. Jako zaufany dostawca produktów do tworzenia, wdrażania i zarządzania aplikacjami o dużym znaczeniu, Progress umożliwia klientom opracowywanie niezbędnych rozwiązań, implementowanie ich w odpowiednich obszarach oraz administrowanie nimi w bezpieczny sposób. Setki tysięcy przedsiębiorstw, w tym 1700 firm programistycznych i 3,5 miliona deweloperów, polega na produktach Progress, aby móc osiągać swoje cele. Więcej informacji dostępnych jest na stronie www.progress.com oraz na profilach w serwisach LinkedIn, YouTube, Twitter, Facebook i Instagram.