Zobacz, co robisz z tymi dużymi danymi, FTC ostrzega firmy

Jeśli twoja firma używa dużych ilości danych, bądź świadomy: FTC obserwuje i jest to zaniepokojone.

Ze względu na wszystkie potencjalne korzyści duże zbiory danych mogą prowadzić do dyskryminacji i pogorszenia rozbieżności gospodarczych. Komisja Handlu ostrzega w nowym raporcie, który zawiera zastrzeżenia i wytyczne dla firm. Uprawnione "Big Data: narzędzie do integracji lub wykluczenia?" raport pochodzi z warsztatów FTC o tej samej nazwie w 2014 r. i zawiera komentarze publiczne, które nastąpiły później.

Wśród wniosków zawartych w raporcie znajduje się wniosek, że duże dane mogą przynieść korzyści mniejszości z niepełną obsadą dzięki lepszym możliwościom w zakresie edukacji, kredytu, opieki zdrowotnej i zatrudnienia. Z drugiej strony może to prowadzić do zmniejszenia szans i ukierunkowania na wrażliwych konsumentów na oszustwa i wyższe ceny.

Ogólnie rzecz biorąc, duże dane mogą skończyć się utrzymaniem istniejących dysproporcji gospodarczych lub tworzeniem nowych, powiedział FTC.

"Duża rola danych rośnie w niemal każdym obszarze działalności, wpływając w określony sposób na miliony konsumentów" - powiedziała Edith Ramirez, przewodnicząca FTC. "Firmy muszą zapewnić, że ich duże wykorzystanie danych nie prowadzi do szkodliwego wykluczenia lub dyskryminacji."

W tym celu FTC nakreśliło niektóre przepisy dotyczące korzystania z dużych zbiorów danych, w tym ustawy o uczciwej sprawozdawczości kredytowej, Ustawa FTC i przepisy dotyczące równych szans. Zaproponował także szereg pytań, które przedsiębiorstwa powinny wziąć pod uwagę, badając, czy ich programy dużych zbiorów danych są zgodne z tymi przepisami.

Cztery kluczowe pytania polityczne zaproponowane w raporcie mają na celu pomóc firmom w określeniu, jak najlepiej wykorzystać zalety wykorzystywanie dużych ilości danych przy jednoczesnym ograniczaniu możliwych szkód.

W ubiegłym roku Biuro Ochrony Konsumentów FTC utworzyło Biuro Badań i Badań nad Technologią, którego celem jest zrozumienie algorytmicznej przejrzystości i innych powiązanych kwestii. W tym tygodniu w CES Ramirez wystąpił również z prośbą o zachęcenie firm do rozszerzenia ich wysiłków na rzecz ochrony prywatności.

Badacz rynku Gartner przewiduje, że niewłaściwe wykorzystanie analityki dużych zbiorów danych spowoduje połowę wszystkich naruszeń etyki biznesowej do roku 2018.

Nowy raport FTC jest dostępny do pobrania ze strony FTC.

Ustawa o możliwościach równych szans kredytowych była kluczowym narzędziem w walce z dyskryminacją algorytmiczną, powiedziała w mailu Rachel Goodman, prokuratorka Programu Rasowej Sprawiedliwości Amerykańskiego Stowarzyszenia Wolności Obywatelskich

"Społeczności kolorowe od dawna są ofiarami dyskryminacji kredytowej, na przemian głodzone Kredytów lub zalane pożyczkami drapieżnych, w zależności od epoki ", wyjaśnia Goodman.

Będzie to tak samo ważne w zwalczaniu tego, co nazywa się" cyfrową redlinią ", co jest najnowszą formą dyskryminacji kredytowej, powiedziała.

Ważne jest również to, że raport uznaje, że analizy predyktywne mogą skłonić firmy do angażowania się w dyskryminację, która narusza prawa dotyczące praw obywatelskich, Goodman zwrócił uwagę

"Chociaż słusznie nalega, aby firmy uważały, aby nie kryminacja, samokontrola to za mało "- powiedział Goodman. "Potrzebujemy systemów do audytu zastrzeżonych algorytmów, które podejmują kluczowe decyzje dotyczące mieszkania, kredytu i zatrudnienia, aby zapewnić, że traktują wszystkich sprawiedliwie."