[제12편: 생존 편향 - 죽은 자는 말이 없고, 성공한 자는 책을 쓴다]

  안녕하세요! 브로올리 연구소장입니다. 오늘은 자기계발서나 성공 신화에 열광하는 분들이라면 반드시 알아야 할, 통계학에서 가장 뼈아픈 교훈 중 하나인 **‘생존 편향’**에 대해 이야기해보려 합니다. "성공한 사람들은 모두 새벽 4시에 일어난다"는 말을 믿고 똑같이 따라 하면 우리도 성공할 수 있을까요? 결론부터 말씀드리면, 그렇지 않을 확률이 높습니다. 왜냐하면 우리는 '실패한 뒤 사라진 사람들'의 데이터는 보지 못하기 때문입니다. 생존 편향(Survivorship Bias)이란, 어떤 선택 과정을 거쳐 살아남은 것들에만 집중하고, 살아남지 못한 것들을 무시함으로써 잘못된 결론을 내리는 오류를 말합니다. 이 오류를 가장 잘 보여주는 역사적 사례가 하나 있습니다. 1. 2차 세계대전, 폭격기의 총알 자국 2차 대전 당시 미군은 폭격기의 생존율을 높이기 위해 전장에서 돌아온 비행기들의 총알 자국을 분석했습니다. 조사 결과, 날개와 꼬리 부분에 총알 자국이 집중되어 있었죠. 군 관계자들은 "날개와 꼬리를 더 보강해야겠군!"이라고 결론지었습니다. 하지만 통계학자 아브라함 발드(Abraham Wald)의 생각은 정반대였습니다. 그는 **"총알 자국이 없는 동체와 엔진 부분을 보강해야 합니다"**라고 주장했죠. 왜였을까요? 날개에 총을 맞은 비행기들은 '살아남아서' 돌아올 수 있었지만, 엔진이나 동체에 총을 맞은 비행기들은 그 자리에서 추락해 '돌아오지 못했기' 때문입니다. 즉, 우리가 본 데이터는 살아남은 비행기만의 데이터였던 것입니다. 2. 성공 신화의 그림자 우리는 서점에 가면 "성공한 CEO들의 7가지 습관" 같은 책을 쉽게 볼 수 있습니다. 그들은 공통적으로 '과감한 투자'나 '포기하지 않는 열정'을 강조하죠. 하지만 똑같이 과감하게 투자하고 열정을 불태웠음에도 불구하고 파산하거나 실패한 수만 명의 이야기는...

[제11편: 여론조사의 비밀 - 질문의 단어 하나가 결과를 바꾼다]

  안녕하세요! 브로올리 연구소장입니다. 오늘은 선거철이나 마케팅 조사 때마다 우리를 들썩이게 만드는 '여론조사'의 뒷이야기를 가져왔습니다. 분명 같은 사안을 두고 조사했는데, A 매체에서는 찬성이 높고 B 매체에서는 반대가 높게 나오는 경우를 보신 적 있나요? "조작 아니야? "라고 의심하기 쉽지만, 사실은 조작보다 더 무서운 '질문의 기술' 때문입니다. 단어 하나, 순서 하나가 사람의 마음을 어떻게 흔드는지 그 심리학을 해부해 보겠습니다. 여론조사는 사람의 생각을 투명하게 비추는 거울 같아 보이지만, 사실은 질문자가 유도하는 대로 답을 이끌어내는 '설계된 시험'에 가깝습니다. 응답자가 의식하지 못하는 사이에 특정 답을 유도하는 몇 가지 대표적인 기법을 소개합니다. 1. 긍정적 단어 vs 부정적 단어 (프레이밍 효과) 사람들은 똑같은 상황이라도 어떤 단어를 쓰느냐에 따라 전혀 다르게 반응합니다. 질문 A : "당신은 이 정책이 가져올 혜택 에 동의하십니까?" 질문 B : "당신은 이 정책이 가져올 세금 부담 에 동의하십니까?" '혜택'이라는 단어가 포함되면 찬성률이 높아지고, '부담'이나 '비용'이 포함되면 반대율이 급증합니다. 이를 통계학에서는 프레이밍(Framing) 효과 라고 부릅니다. 질문자가 어떤 틀(Frame)을 씌우느냐에 따라 응답자는 그 안에서만 생각하게 되는 것이죠. 2. '맞장구 편향'을 이용한 유도 질문 사람들은 본능적으로 질문자의 의견에 긍정하려는 성향이 있습니다. 이를 '사회적 바람직성 편향' 혹은 **'맞장구 편향'**이라고 합니다. 잘못된 질문 : "전문가들이 추천하는 이 방안에 찬성하시죠?" 올바른 질문 : "이 방안에 대해 찬성하십니까, 반대하십니까?" 앞에 '전문가'나 '대다...

[제10편: 빅데이터의 역설 - 양이 많다고 정답일까?]

이미지
 안녕하세요! 브로올리 연구소장입니다. 우리는 지금 '빅데이터'라는 용어가 마법의 지팡이처럼 여겨지는 시대를 살고 있습니다. 데이터가 산더미처럼 쌓여 있으면 세상의 모든 미래를 맞힐 수 있을 것만 같죠. 하지만 데이터의 양에만 집착하다 보면, 오히려 진실과는 더 멀어지는 함정에 빠지게 됩니다. 오늘은 데이터의 풍요 속에서 우리가 겪는 **'빅데이터의 역설'**과 **'노이즈(Noise)'**에 대해 이야기해 보겠습니다. 데이터가 많으면 무조건 좋을까요? 결론부터 말씀드리면, '나쁜 데이터'는 아무리 많아도 '나쁜 결론'만 낼 뿐 입니다. 쓰레기를 넣으면 쓰레기가 나온다는 'GIGO(Garbage In, Garbage Out)' 원칙은 빅데이터 시대에도 여전히 유효합니다. 1. 신호(Signal)와 소음(Noise) 데이터는 크게 두 가지로 나뉩니다. 우리가 진짜 알아내야 할 정보인 **'신호'**와, 아무런 의미 없이 섞여 들어온 **'소음'**입니다. 문제는 데이터의 양이 늘어날 때 신호보다 소음이 훨씬 더 빠르게 늘어난다는 점입니다. 예를 들어, 한 사람의 건강 상태를 알기 위해 100가지 수치를 측정한다고 해봅시다. 그중 진짜 건강 지표는 5개뿐인데, 나머지 95개의 사소한 수치 변화에만 집중하다 보면 정작 중요한 질병의 신호를 놓칠 수 있습니다. 2. 과적합(Overfitting)의 함정: 과거에만 완벽한 모델 데이터 분석가들이 가장 경계하는 것 중 하나가 **'과적합'**입니다. 이는 모델이 학습 데이터에 너무 과하게 최적화되어, 새로운 데이터가 들어오면 아무것도 맞히지 못하는 상태를 말합니다. 쉽게 비유하자면, 어떤 학생이 기출문제의 답을 통째로 외워버린 것과 같습니다. 기출문제(과거 데이터)는 100점을 맞겠지만, 정작 실제 시험(미래 데이터)에서 문제의 숫자만 살짝 바뀌어도 하나도 풀지 못하는 것이죠. 데이터가 많을수록...

[제9편: 긍정 오류와 부정 오류 - 암 검사 결과가 양성인데 정상일 확률]

 안녕하세요! 브로올리 연구소장입니다. 오늘은 살면서 절대 마주하고 싶지 않지만, 막상 닥치면 우리를 엄청난 공포나 혼란에 빠뜨리는 주제를 가져왔습니다. 바로 검사 결과의 배신, **'긍정 오류'와 '부정 오류'**입니다. 통계학에서는 제1종 오류, 제2종 오류라고 부르기도 하죠. "암이 아닌데 암이라고 한다면?", "범인인데 무죄라고 한다면?" 이 두 가지 실수 중 무엇이 더 위험할까요? 검사라는 것은 언제나 100% 완벽할 수 없습니다. 인간이 만든 모든 테스트에는 반드시 '실수'의 가능성이 존재하죠. 통계학에서는 이 실수를 두 가지 방향으로 정의합니다. 1. 긍정 오류 (제1종 오류, False Positive) 실제로는 '아니요(Negative)'인데, 결과가 '네(Positive)'라고 나오는 경우입니다. 예시 : 병이 없는데 병이 있다고 진단함, 스팸 메일이 아닌데 스팸함으로 보냄, 무죄인 사람을 유죄라고 판결함. 특징 : "멀쩡한 사람을 죄인으로 만드는 실수"입니다. 이 오류가 많아지면 사람들은 검사 결과에 대해 '양치기 소년'처럼 느끼게 됩니다. 2. 부정 오류 (제2종 오류, False Negative) 실제로는 '네(Positive)'인데, 결과가 '아니요(Negative)'라고 나오는 경우입니다. 예시 : 병이 있는데 정상이라고 진단함, 도둑인데 경찰이 놓침, 유죄인 사람에게 무죄 판결을 내림. 특징 : "진짜 위험을 놓치는 실수"입니다. 의료계에서는 긍정 오류보다 이 부정 오류를 훨씬 치명적으로 봅니다. 병을 놓치면 치료 시기를 놓치기 때문이죠. 3. 왜 둘 다 줄일 수는 없을까? (Trade-off) 가장 좋은 건 둘 다 0%인 것이겠지만, 현실에서는 불가능합니다. 하나를 줄이려고 기준을 엄격하게 잡으면 다른 하나가 늘어나는 시소 관계에 있기 때문입니다....

[제8편: 몬테카를로의 오류 - "이제는 나올 때가 됐다"는 착각]

 녕하세요! 브로올리 연구소장입니다. 오늘은 카지노와 주식 시장, 그리고 일상적인 내기에서 수많은 사람을 파산과 후회로 몰아넣은 아주 유명한 심리적 함정을 파헤쳐 보려 합니다. 바로 **'몬테카를로의 오류(Monte Carlo Fallacy)'**입니다. "이제는 정말 나올 때가 됐는데?"라는 그 한마디가 왜 위험한지, 통계학의 눈으로 살펴볼까요? 1913년 모나코의 몬테카를로 카지노에서 기이한 일이 벌어졌습니다. 루렛 게임에서 구슬이 연속으로 26번이나 검은색 칸에 떨어진 것이죠. 게이머들은 10번째 검은색이 나왔을 때부터 "이제는 빨간색이 나올 차례야!"라며 빨간색에 돈을 걸기 시작했습니다. 하지만 구슬은 무심하게도 계속 검은색에 멈췄고, 사람들은 "설마 또 검은색이겠어?"라며 더 큰 돈을 걸다가 결국 막대한 재산을 잃었습니다. 이것이 바로 도박사의 오류라고도 불리는 몬테카를로의 오류입니다. 1. 독립 시행: "동전은 앞선 결과를 기억하지 못한다" 몬테카를로 오류의 핵심은 **'독립 시행'**을 이해하지 못하는 데서 옵니다. 동전 던지기나 루렛은 앞선 결과가 다음 결과에 아무런 영향을 주지 않는 독립적인 사건입니다. 동전을 열 번 던져서 열 번 모두 앞면이 나왔다고 해도, 열한 번째 던질 때 앞면이 나올 확률은 여전히 $1/2$ (50%)입니다. 동전에는 기억 장치가 없기 때문이죠. 하지만 우리 뇌는 "앞면이 너무 많이 나왔으니 우주의 균형을 맞추기 위해 뒷면이 나와야 해"라는 가짜 시나리오를 씁니다. 2. 큰 수의 법칙과 도박사의 오류 사이의 오해 왜 이런 착각을 할까요? 바로 통계학의 **'큰 수의 법칙'**을 오해하기 때문입니다. 큰 수의 법칙은 시행 횟수가 무한히 많아지면 결국 확률이 이론적 기대치에 수렴한다는 법칙입니다. 여기서 중요한 건 '무한히'입니다. 만 번, 백만 번을 던지면 50%에 가까워지...

[제7편: 표준편차와 분산 - 데이터가 얼마나 '지저분하게' 퍼져 있는가?]

이미지
 안녕하세요! 브로올리 연구소장입니다. 오늘은 데이터의 '가운데'가 아니라 '퍼진 모양'에 대해 이야기해보려 합니다. 평균만 알아서는 절대 알 수 없는 데이터의 진짜 성질, 바로 **'표준편차와 분산'**입니다. 이름만 들으면 수학 정석 책이 생각나서 머리가 아플 것 같지만, 사실 우리 일상 속 '격차'를 이해하는 아주 유용한 도구랍니다. 여러분, 두 개의 반이 있다고 상상해 보세요. A반과 B반 모두 수학 시험 평균이 80점입니다. A반 : 학생 대부분이 78점, 80점, 82점을 받았습니다. B반 : 어떤 학생은 100점인데, 어떤 학생은 60점을 받았습니다. 평균은 똑같이 80점이지만, 두 반의 분위기는 완전히 다르겠죠? A반은 실력이 고른 '평탄한' 반이고, B반은 실력 차이가 극심한 '다이내믹한' 반입니다. 이 차이를 숫자로 보여주는 것이 바로 분산 과 표준편차 입니다. 1. 데이터의 '흩어짐'을 측정하라 데이터들이 평균에서 얼마나 멀리 떨어져 있는지를 계산한 것이 **분산(Variance)**입니다. 평균에서 각 점수를 뺀 값(편차)들을 제곱해서 평균을 낸 수치죠. 그런데 제곱을 하다 보니 숫자가 너무 커지는 단점이 생겼습니다. 그래서 그 숫자에 다시 루트( $\sqrt{\quad}$ )를 씌워 원래 단위로 되돌려놓은 것이 바로 우리가 흔히 듣는 **표준편차(Standard Deviation)**입니다. Shutterstock 탐색 2. 표준편차가 작으면 '안정적', 크면 '불안정' 표준편차가 작다 : 데이터들이 평균 근처에 옹기종기 모여 있다는 뜻입니다. 품질이 일정한 공장 제품, 성적이 고른 학급, 변동성이 적은 우량주 주식 등이 여기에 해당합니다. 표준편차가 크다 : 데이터들이 평균에서 멀리멀리 퍼져 있다는 뜻입니다. 빈부격차가 큰 나라의 소득, 변동성이 심한 잡주, 실력이 들쭉날쭉한 운동선수 등이 해당하죠. 3. 일...

[제6편: %와 %p의 한 끗 차이 - 뉴스가 숫자를 부풀리는 방식]

 안녕하세요! 브로올리 연구소장입니다. 오늘은 뉴스 기사나 경제 뉴스를 볼 때 가장 많이 헷갈리지만, 모르면 무조건 손해를 보는 숫자 이야기를 가져왔습니다. 바로 **퍼센트(%)**와 **퍼센트포인트(%p)**의 차이입니다. "그게 그거 아니야?"라고 생각하실 수 있지만, 이 글자를 어떻게 쓰느냐에 따라 체감 수치가 수십 배나 차이 날 수 있거든요. 숫자의 마법을 부리는 교묘한 편집의 기술, 함께 알아볼까요? 우리는 매일 "취업률 3% 상승", "금리 0.5%p 인상" 같은 말을 듣습니다. 그런데 왜 어떤 때는 %를 쓰고, 어떤 때는 %p라고 할까요? 이 둘을 혼동하면 누군가 의도적으로 정보를 왜곡할 때 아주 쉽게 속아 넘어가게 됩니다. 1. 퍼센트(%)는 '변화의 비율'입니다 퍼센트는 원래 있던 값에서 얼마나 변했는지를 나타내는 비율 입니다. 예를 들어, 작년 실업률이 10%였는데 올해 11%가 되었다고 가정해 봅시다. 여기서 "실업률이 1% 올랐다"고 말하면 통계적으로는 틀린 표현입니다. 원래 10이었던 값에서 1만큼 증가한 것이니, 실제로는 **10%가 증가(10의 10%는 1)**한 것입니다. 즉, "실업률이 작년 대비 10% 상승했다"라고 말하는 것이 퍼센트의 올바른 사용법입니다. 2. 퍼센트포인트(%p)는 '단순한 차이'입니다 반면 퍼센트포인트는 퍼센트로 표시된 수치끼리 단순히 뺄셈을 한 차이 를 말합니다. 앞선 예시에서 11%와 10%의 차이는 단순하게 1이죠? 이때 단위를 %p라고 씁니다. 즉, "실업률이 작년보다 1%p 상승 했다"라고 말해야 정확합니다. 3. 왜 뉴스는 이 둘을 교묘하게 섞어 쓸까? 이제부터가 중요합니다. 정보를 전달하는 쪽에서 상황을 부풀리거나 축소하고 싶을 때 이 단위를 이용합니다. 상황 A (성과를 자랑하고 싶을 때) : 우리 회사 점유율이 1%에서 2%로 올랐습니다. "점유율이...