„istnieją trzy rodzaje kłamstw – kłamstwa, cholera kłamstwa i statystyki.”- Benjamin Disraeli
analizy statystyczne były historycznie stalwart high tech i zaawansowanych branż biznesowych, a dziś są ważniejsze niż kiedykolwiek. Wraz z rozwojem zaawansowanych technologii i globalizacją działalności, analizy statystyczne dają przedsiębiorstwom wgląd w rozwiązywanie skrajnych niepewności rynku. Badania sprzyjają świadomemu podejmowaniu decyzji, rzetelnym osądom i działaniom przeprowadzanym na podstawie wagi dowodów, a nie założeń.
ponieważ firmy są często zmuszone do przestrzegania trudnej do interpretacji rynkowej mapy drogowej, metody statystyczne mogą pomóc w planowaniu, które jest niezbędne do poruszania się po krajobrazie pełnym dziur, pułapek i wrogiej konkurencji. Badania statystyczne mogą również pomóc w wprowadzaniu na rynek towarów lub usług oraz w zrozumieniu specyficznych czynników wpływających na wartość poszczególnych rynków docelowych. W erze cyfrowej możliwości te są jeszcze bardziej udoskonalane i wykorzystywane poprzez wdrożenie zaawansowanej technologii i oprogramowania business intelligence. Jeśli to wszystko prawda, jaki jest problem ze statystykami?
właściwie nie ma problemu per se – ale może być. Statystyki są niesławne ze względu na ich zdolność i potencjał do istnienia jako mylących i złych danych.
Co To jest myląca Statystyka?
mylące Statystyki są po prostu błędnym wykorzystaniem – celowym lub nie – danych liczbowych. Wyniki dostarczają mylącej informacji odbiorcy, który następnie uważa, że coś jest nie tak, jeśli nie zauważy błędu lub nie ma pełnego obrazu danych.
biorąc pod uwagę znaczenie danych w dzisiejszym szybko rozwijającym się świecie cyfrowym, ważne jest, aby znać podstawy mylących statystyk i nadzoru. Jako ćwiczenie z należytą starannością przeanalizujemy niektóre z najczęstszych form niewłaściwego wykorzystywania statystyk oraz różne niepokojące (i niestety powszechne) wprowadzające w błąd przykłady statystyk z życia publicznego.
czy Statystyki są wiarygodne?
73.6% statystyk jest nieprawdziwych. Naprawdę? Nie, oczywiście, że to zmyślony numer (chociaż takie badanie byłoby interesujące – ale znowu, może mieć wszystkie wady, które próbuje jednocześnie wskazać). Wiarygodność statystyczna ma kluczowe znaczenie dla zapewnienia precyzji i trafności analizy. Aby upewnić się, że niezawodność jest wysoka, istnieją różne techniki do wykonania-pierwszym z nich są testy kontrolne, które powinny mieć podobne wyniki podczas odtwarzania eksperymentu w podobnych warunkach. Te środki kontrolne są niezbędne i powinny być częścią każdego eksperymentu lub badania – niestety, nie zawsze tak jest.
chociaż liczby nie kłamią, można ich użyć do wprowadzenia w błąd półprawdami. Jest to znane jako ” nadużycie statystyk.”Często zakłada się, że nadużywanie statystyk ogranicza się do tych osób lub firm, które chcą zyskać na zniekształcaniu prawdy, czy to w ekonomii, edukacji czy środkach masowego przekazu.
jednak mówienie półprawd poprzez naukę nie ogranicza się tylko do matematycznych amatorów. Badanie śledcze z 2009 r. przeprowadzone przez dr Daniele Fanelli z Uniwersytetu w Edynburgu wykazało, że 33,7% badanych naukowców przyznało się do wątpliwych praktyk badawczych, w tym do modyfikowania wyników w celu poprawy wyników, subiektywnej interpretacji danych, wstrzymywania szczegółów analitycznych i upuszczania obserwacji z powodu uczuć żołądkowych…. Naukowcy!
chociaż liczby nie zawsze muszą być sfabrykowane lub mylące, oczywiste jest, że nawet społeczeństwa najbardziej zaufane odźwierni liczbowi nie są odporne na nieostrożność i uprzedzenia, które mogą pojawić się w procesach interpretacji statystycznej. Istnieją różne sposoby, w jaki statystyki mogą wprowadzać w błąd, które szczegółowo omówimy później. Najczęstszym jest oczywiście korelacja w stosunku do Związku przyczynowego, który zawsze pozostawia inny (lub dwa lub trzy) czynnik, który jest rzeczywistą przyczyną problemu. Picie herbaty zwiększa cukrzycę o 50%, a łysienie zwiększa ryzyko chorób sercowo-naczyniowych nawet o 70%! Czy zapomnieliśmy wspomnieć o ilości cukru włożonego do herbaty, czy o tym, że łysienie i starość są ze sobą powiązane – podobnie jak ryzyko chorób sercowo-naczyniowych i starość?
czy zatem można manipulować statystykami? Pewnie, że mogą. Czy liczby kłamią? Możesz być sędzią.
jak statystyki mogą wprowadzać w błąd
pamiętaj, że niewłaściwe użycie statystyk może być przypadkowe lub celowe. Podczas gdy złośliwa intencja rozmycia linii z wprowadzającymi w błąd statystykami z pewnością zwiększy stronniczość, intencja nie jest konieczna do tworzenia nieporozumień. Nadużycie statystyki jest znacznie szerszym problemem, który obecnie przenika przez wiele branż i dziedzin nauki. Oto kilka potencjalnych wpadek, które często prowadzą do niewłaściwego użycia:
- błędne ankiety
sposób formułowania pytań może mieć ogromny wpływ na sposób, w jaki publiczność na nie odpowiada. Konkretne wzory sformułowań mają efekt perswazyjny i skłaniają respondentów do odpowiedzi w przewidywalny sposób. Na przykład w ankiecie szukającej opinii podatkowej przyjrzyjmy się dwóm potencjalnym pytaniom:
– czy uważasz, że powinieneś być opodatkowany, aby inni obywatele nie musieli pracować?- Czy uważa pan, że rząd powinien pomóc tym ludziom, którzy nie mogą znaleźć pracy?
te dwa pytania prawdopodobnie wywołają znacznie różne odpowiedzi, mimo że dotyczą tego samego tematu pomocy rządowej. Są to przykłady ” załadowanych pytań.”
bardziej trafne sformułowanie brzmiałoby: „czy popierasz rządowe programy pomocy dla bezrobotnych?”lub, (jeszcze bardziej neutralnie)” jaki jest twój punkt widzenia w sprawie pomocy dla bezrobotnych?”
dwa ostatnie przykłady oryginalnych pytań eliminują wszelkie wnioski lub sugestie Pollera, a tym samym są znacznie bardziej bezstronne. Inną nieuczciwą metodą sondażu jest zadawanie pytania, ale poprzedzanie go wyrażeniem warunkowym lub stwierdzeniem faktu. Pozostając przy naszym przykładzie, wyglądałoby to tak: „biorąc pod uwagę rosnące koszty dla klasy średniej, czy popieracie rządowe programy pomocy?”
dobrą zasadą jest zawsze brać ankiety z przymrużeniem oka i próbować przejrzeć pytania, które zostały rzeczywiście przedstawione. Dają świetny wgląd, często bardziej niż odpowiedzi.
- korelacje wadliwe
problem ze korelacjami jest taki: jeśli zmierzysz wystarczającą liczbę zmiennych, w końcu okaże się, że niektóre z nich korelują. Ponieważ jeden na dwadzieścia nieuchronnie zostanie uznany za znaczący bez bezpośredniej korelacji, badania mogą być manipulowane (z wystarczającą ilością danych), aby udowodnić korelację, która nie istnieje lub która nie jest wystarczająco znacząca, aby udowodnić związek przyczynowy.
aby zilustrować ten punkt, Załóżmy, że badanie wykazało korelację między wzrostem liczby wypadków samochodowych w stanie Nowy Jork w miesiącu czerwcu (a), a wzrostem liczby ataków niedźwiedzi w stanie Nowy Jork w miesiącu czerwcu (B).
oznacza to, że prawdopodobnie będzie sześć możliwych wyjaśnień:
– wypadki samochodowe (a) powodują ataki niedźwiedzi (B)- ataki niedźwiedzi (B) powodują wypadki samochodowe (a) i ataki niedźwiedzi (B) częściowo powodują się nawzajem – wypadki samochodowe (a) i ataki niedźwiedzi (B) są spowodowane przez trzeci czynnik (C) – ataki niedźwiedzi (B)) są spowodowane przez trzeci czynnik (C), który koreluje z wypadkami samochodowymi (a) – korelacja jest tylko szansą
każda rozsądna osoba łatwo zidentyfikowałaby fakt, że wypadki samochodowe nie powodują ataków niedźwiedzi. Każdy z nich jest prawdopodobnie wynikiem trzeciego czynnika, to jest: wzrost populacji, ze względu na wysoki sezon turystyczny w czerwcu. Byłoby niedorzeczne powiedzieć, że powodują siebie nawzajem… i właśnie dlatego jest to nasz przykład. Łatwo zauważyć korelację.
ale co z przyczynami? Co jeśli mierzone zmienne były inne? A jeśli to było coś bardziej wiarygodnego, jak Alzheimer i starość? Oczywiście istnieje korelacja między tymi dwoma, ale czy istnieje związek przyczynowy? Wielu fałszywie zakładałoby, tak, wyłącznie w oparciu o siłę korelacji. Stąpaj ostrożnie, albo świadomie, albo nieświadomie, polowania korelacyjne będą nadal istnieć w badaniach statystycznych.
- łowienie danych
ten mylący przykład danych jest również nazywany „pogłębianiem danych” (i związany z wadliwymi korelacjami). Jest to technika eksploracji danych, w której analizowane są bardzo duże ilości danych w celu odkrycia relacji między punktami danych. Szukanie relacji między danymi nie jest nadużyciem danych per se, jednak robienie tego bez hipotezy jest.
pogłębianie danych jest techniką samoobsługową, często stosowaną w nieetycznym celu obchodzenia tradycyjnych technik eksploracji danych, w celu poszukiwania dodatkowych wniosków dotyczących danych, które nie istnieją. Nie oznacza to, że nie ma właściwego wykorzystania eksploracji danych, ponieważ może to w rzeczywistości prowadzić do zaskakujących odstających i interesujących analiz. Jednak częściej niż nie, pogłębianie danych jest używany do zakładania istnienia relacji danych bez dalszych badań.
często wyniki badań są bardzo nagłośnione ze względu na ich ważne lub dziwaczne wyniki. Badania te bardzo szybko zaprzeczają innym ważnym lub dziwacznym ustaleniom. Te fałszywe korelacje często pozostawiają opinię publiczną bardzo zdezorientowaną i poszukującą odpowiedzi na temat znaczenia przyczynowości i korelacji.
podobnie, inną powszechną praktyką w przypadku danych jest pominięcie, co oznacza, że po przyjrzeniu się dużemu zestawowi danych odpowiedzi, wybierasz tylko te, które wspierają twoje poglądy i ustalenia, a pomijasz te, które są temu sprzeczne. Jak wspomniano na początku tego artykułu, wykazano, że jedna trzecia naukowców przyznała, że miała wątpliwe praktyki badawcze, w tym zatajanie szczegółów analitycznych i modyfikowanie wyników…! Ale z drugiej strony, mamy do czynienia z badaniem, które samo w sobie może wpaść w te 33% wątpliwych praktyk, błędnych sondaży, selektywnych uprzedzeń… Trudno uwierzyć w jakąkolwiek analizę!
- myląca wizualizacja danych
wnikliwe wykresy i wykresy zawierają bardzo podstawowe, ale niezbędne, grupowanie elementów. Niezależnie od typów wizualizacji danych, które wybierzesz, musi ona przekazać:
– zastosowane skale – wartość początkowa (zero lub inna)- metoda obliczeń (np. zbiór danych i okres czasu)
bez tych elementów wizualne reprezentacje danych powinny być przeglądane z przymrużeniem oka, biorąc pod uwagę typowe błędy wizualizacji danych, które można popełnić. Należy również określić pośrednie punkty danych i podać kontekst, jeśli miałoby to wartość dodaną do przedstawionych informacji. Wraz z rosnącym uzależnieniem od inteligentnej automatyzacji rozwiązań do porównywania zmiennych punktów danych, najlepsze praktyki (tj. projektowanie i skalowanie) powinny być wdrożone przed porównaniem danych z różnych źródeł, zbiorów danych, czasów i lokalizacji.
- celowe i selektywne stronniczość
ostatni z naszych najczęstszych przykładów niewłaściwego wykorzystania statystyk i wprowadzających w błąd danych jest, być może, najpoważniejszy. Celowe stronniczość jest celową próbą wpływania na wyniki danych, nawet bez udawania odpowiedzialności zawodowej. Stronniczość najprawdopodobniej przybiera formę pominięć lub korekt danych.
wybiórcze odchylenie jest nieco bardziej dyskretne dla tych, którzy nie czytają małych linii. Zwykle spada na próbkę badanych osób. Na przykład charakter grupy ankietowanych: pytanie klasy studenta o legalny wiek picia alkoholu lub grupy emerytów o system opieki nad osobami starszymi. Skończy się to błędem statystycznym o nazwie „wybiórcze nastawienie”.
- używanie zmiany procentowej w połączeniu z małą wielkością próbki
innym sposobem tworzenia mylących statystyk, również związanym z wyborem próbki omówionej powyżej, jest wielkość wspomnianej próbki. Gdy eksperyment lub ankieta jest prowadzona na zupełnie nie znaczącej wielkości próby, nie tylko wyniki będą bezużyteczne, ale sposób przedstawiania ich-mianowicie jako procenty-będzie całkowicie mylące.
zadawanie pytania do próby liczącej 20 osób, gdzie 19 odpowiedzi „tak” (=95% odpowiada za tak) w porównaniu z zadawaniem tego samego pytania 1000 osobom i 950 odpowiedzi ” tak ” (=95% również): ważność procentu wyraźnie nie jest taka sama. Podanie wyłącznie procentu zmian bez całkowitej liczby lub wielkości próby będzie całkowicie mylące. komiks xkdc bardzo dobrze to ilustruje, aby pokazać, jak” najszybciej rozwijające się ” twierdzenie jest całkowicie względną przemową marketingową:
podobnie, wymagana wielkość próby zależy od rodzaju zadawanego pytania, istotności statystycznej, której potrzebujesz (badanie kliniczne vs badanie biznesowe) i techniki statystycznej. Jeśli wykonasz analizę ilościową, próbki o rozmiarach poniżej 200 osób są zwykle nieważne.
wprowadzające w błąd przykłady statystyk w prawdziwym życiu
teraz, gdy przejrzeliśmy kilka z najbardziej commons metod niewłaściwego wykorzystania danych, spójrzmy na różne przykłady erze cyfrowej wprowadzających w błąd statystyk w trzech różnych, ale powiązanych, spektrum: media i Polityka, Reklama i nauka. Podczas gdy niektóre tematy wymienione tutaj mogą wzbudzać emocje w zależności od punktu widzenia, ich włączenie służy wyłącznie do celów demonstracyjnych danych.
- przykłady mylących statystyk w mediach i polityce
mylące statystyki w mediach są dość powszechne. Września. 29 września 2015 Republikanie z Kongresu USA przesłuchali Cecile Richards, prezes Planned Parenthood, w sprawie sprzeniewierzenia 500 milionów dolarów rocznych funduszy federalnych. Powyższy wykres / wykres został przedstawiony jako punkt nacisku.
przedstawiciel Jason Chaffetz z Utah wyjaśnił: „w kolorze różowym jest to zmniejszenie badań piersi, a czerwony to wzrost aborcji. To właśnie dzieje się w Twojej organizacji.”
opierając się na strukturze wykresu, faktycznie wydaje się, że liczba aborcji od 2006 r.odnotowała znaczny wzrost, podczas gdy liczba badań przesiewowych w kierunku raka znacznie spadła. Celem jest przeniesienie ostrości z badań przesiewowych na aborcję. Punkty wykresu wydają się wskazywać, że 327 000 aborcji ma większą wartość wrodzoną niż 935 573 badania przesiewowe raka. Jednak bliższe badanie ujawni, że Wykres nie ma zdefiniowanej osi Y. Oznacza to, że nie ma definiowalnego uzasadnienia dla umiejscowienia widocznych linii pomiarowych.
Politifact, strona internetowa zajmująca się sprawdzaniem faktów, dokonała przeglądu liczb Rep.Chaffetza poprzez porównanie z własnymi raportami rocznymi Planned Parenthood. Korzystając z jasno zdefiniowanej skali, oto jak wyglądają informacje:
I tak z inną ważną skalą:
po umieszczeniu w jasno określonej skali, staje się oczywiste, że chociaż liczba badań przesiewowych w kierunku raka zmniejszyła się, nadal znacznie przewyższa liczbę procedur aborcyjnych wykonywanych rocznie. Jako taki, jest to wielki mylący przykład statystyki, a niektórzy mogą argumentować stronniczość biorąc pod uwagę, że wykres pochodzi nie od kongresmena, ale od Amerykanów United for Life, grupy antyaborcyjnej. To tylko jeden z wielu przykładów mylących statystyk w mediach i polityce.
- mylące statystyki w reklamie
w 2007 roku zamówiono Colgate przez advertising Standards Authority (asa) w Wielkiej Brytanii, aby porzucić swoje roszczenie: „ponad 80% dentystów zaleca Colgate.”Slogan, o którym mowa, został umieszczony na billboardzie reklamowym w Wielkiej Brytanii i został uznany za naruszający Brytyjskie Zasady reklamy.
twierdzenie, które zostało oparte na badaniach dentystów i higienistek przeprowadzonych przez producenta, zostało uznane za nieprawdziwe, ponieważ pozwoliło uczestnikom wybrać jedną lub więcej marek pasty do zębów. ASA stwierdził, że twierdzenie „… będzie rozumiane przez czytelników jako, że 80 procent dentystów poleca Colgate ponad innymi markami, a pozostałe 20 procent poleciłoby inne marki.”
ASA kontynuował: „ponieważ zdaliśmy sobie sprawę, że marka innego konkurenta była rekomendowana przez ankietowanych dentystów prawie tak samo, jak marka Colgate, doszliśmy do wniosku, że twierdzenie to wprowadza w błąd 80% dentystów zaleca pastę do zębów Colgate zamiast wszystkich innych marek.”ASA twierdził również, że skrypty użyte do badania poinformowały uczestników, że badania były wykonywane przez niezależną firmę badawczą, co było z natury fałszywe.
opierając się na technikach niewłaściwego użycia, które omówiliśmy, można śmiało powiedzieć, że ta sztuczna technika Colgate jest wyraźnym przykładem wprowadzających w błąd statystyk w reklamie i podlegałaby błędnym sondażom i całkowitemu uprzedzeniu.
- mylące statystyki w nauce
podobnie jak aborcja, globalne ocieplenie jest kolejnym politycznie obciążonym tematem, który może budzić emocje. Zdarza się również, że jest to temat, który jest energicznie popierany zarówno przez przeciwników, jak i zwolenników poprzez badania. Przyjrzyjmy się dowodom za i przeciw.
ogólnie uzgodniono, że średnia globalna temperatura w 1998 roku wynosiła 58,3 stopni Fahrenheita. Według Goddard Institute for Space Studies NASA. W 2012 roku średnia temperatura na świecie wynosiła 58,2 stopnia. Dlatego przeciwnicy globalnego ocieplenia twierdzą, że ponieważ w ciągu 14 lat nastąpił spadek średniej globalnej temperatury o 0,1 stopnia, globalne ocieplenie jest obalane.
Poniższy wykres jest najczęściej przywoływany do obalenia globalnego ocieplenia. Pokazuje zmianę temperatury powietrza (Celsjusza) w latach 1998-2012.
warto wspomnieć, że rok 1998 był jednym z najgorętszych lat w historii ze względu na wyjątkowo silny prąd wiatru El Niño. Warto również zauważyć, że ze względu na duży stopień zmienności w systemie klimatycznym temperatury są zwykle mierzone w cyklu co najmniej 30-letnim. Poniższy wykres wyraża 30-letnią zmianę globalnych średnich temperatur.
a teraz spójrz na trend od 1900 do 2012:
chociaż dane długoterminowe mogą wydawać się odzwierciedlać Płaskowyż, wyraźnie obrazują stopniowe ocieplenie. Dlatego użycie pierwszego wykresu i tylko pierwszego wykresu do obalenia globalnego ocieplenia jest doskonałym mylącym przykładem statystyki.
jak czytać statystyki z odległością
pierwszą dobrą rzeczą byłoby oczywiście stanąć przed uczciwą ankietą/eksperymentem / badaniami – wybierz tę, którą masz pod oczami–, która zastosowała poprawne techniki zbierania i interpretacji danych. Ale nie możesz wiedzieć, dopóki nie zadasz sobie kilku pytań i nie przeanalizujesz wyników, które masz między rękami.
jako przedsiębiorca i były konsultant Mark Suster radzi w artykule, powinieneś się zastanawiać, kto przeprowadził podstawowe badania tej analizy. Niezależna grupa badawcza, zespół badawczy związany z laboratorium, firma konsultingowa? Stąd naturalnie rodzi się pytanie: kto im zapłacił? Ponieważ nikt nie pracuje za darmo, zawsze warto wiedzieć, kto sponsoruje badania. Podobnie, jakie są motywy badań? Co naukowcy lub statystycy próbowali wymyślić? Wreszcie, jak duży był Zestaw próbek i kto był jego częścią? Jak bardzo to było integracyjne?
są to ważne pytania, które należy przemyśleć i odpowiedzieć, zanim rozprzestrzenią się wszędzie wypaczone lub stronnicze wyniki – mimo że zdarza się to cały czas, ze względu na wzmocnienie. Typowy przykład amplifikacji ma miejsce często w przypadku gazet i dziennikarzy, którzy biorą jeden kawałek danych i muszą przekształcić go w nagłówki – a więc często poza jego pierwotnym kontekstem. Nikt nie kupuje magazynu, w którym pisze, że w przyszłym roku na rynku XYZ stanie się to samo, co w tym roku – choć to prawda. Redaktorzy, klienci i ludzie chcą czegoś nowego, a nie czegoś, co znają; dlatego często kończy się zjawiskiem amplifikacji, które odbija się echem i bardziej niż powinno.
nadużywanie statystyk – podsumowanie
do pytania „czy statystyki można manipulować?”, możemy odnieść się do 6 metod często stosowanych-celowo lub Nie-które przekrzywiają analizę i wyniki. Oto typowe rodzaje niewłaściwego wykorzystania statystyk:
- błędne ankiety
- błędne korelacje
- łowienie danych
- myląca wizualizacja danych
- celowe i selektywne odchylenie
- przy użyciu zmiany procentowej w połączeniu z małą wielkością próbki
teraz, gdy je znasz, łatwiej będzie je wykryć i zakwestionować wszystkie statystyki, które są ci codziennie podawane. Podobnie, aby zachować pewien dystans do badań i ankiet, które czytasz, pamiętaj o pytaniach, które musisz sobie zadać-kto badał i dlaczego, kto za to zapłacił, jaka była próbka.
przejrzystość i rozwiązania biznesowe oparte na danych
chociaż jest oczywiste, że dane statystyczne mogą być nadużywane, mogą również etycznie zwiększać wartość rynkową w cyfrowym świecie. Big data może zapewnić firmom w wieku cyfrowym plan działania na rzecz wydajności i przejrzystości, a ostatecznie rentowności. Zaawansowane rozwiązania technologiczne, takie jak oprogramowanie do raportowania online, mogą poprawić modele danych statystycznych i zapewnić cyfrowym firmom wiekowym krok w górę nad konkurencją.
niezależnie od tego, czy chodzi o analizę rynku, doświadczenie klienta czy raportowanie biznesowe, przyszłość danych jest teraz. Dbaj o odpowiedzialne, etyczne i wizualne stosowanie danych i obserwuj, jak rośnie Twoja przejrzysta tożsamość korporacyjna.