시작에 앞서,통계적 추론을 아는 방법
- 수학을 이용한 연역적 방법
- 통계학(과학)의 역사와 철학
- 컴퓨터 시뮬레이션을 이용
- 통계학의 개념과 제문제
- 통계학 개론, 미적분, 통계 프로그램 좀 알아야 함
통계적 추론의 전제: 세상은 불확실하다
- 데이터 측면 정의: 자연 현상 성질 측정 후 데이터를 다루는 학문
- 불확실성 측면 정의: 변동성, 불확실성 하 의사결정 관련 학문
- 보편적 정의: 불확실, 불완전, 변동 데이터⇒ 지식 일반화⇒ 효율 사용 학문
- 관심 대상에 대해 관련된 데이터 수집 및 요약 정리
- 이로부터 불확실한 사실 결론, 규칙성 도출 이론과 방법
- 추론: 세상의 일부를 측정하여 전체를 추론
- 목적 및 정의: 데이터 바탕 불확실 사실 결론, 예측(+목적 이론 및 방법)
- 응용: 여론조사, 신약개발, 상품추천 등
통계적 추론 용어
-
모집단Population: 관심대상 전체
-
표본Sample: 모집단의 부분집합
-
확률: 불확실한 세상에 대한 표현. 0과 1사이 사건 발생 가능성
- 빈도론적 해석: 동일 사건 무한 반복시 그 사건이 일어나는 비율(동전 앞뒤)
- 인식론적 확률: 외부 속성이 아닌 개인적 믿음
-
확률변수: 사건을 숫자로 바꿔 주는 함수(X: Event → RealNumber)
-
확률분포: 확률변수 불확실성 표현. n개의 모수parameter가 포함된 함수
-
통계량Statistic: 표본의 함수
-
표본분포SamplingDist: 통계량의 분포
-
추론: 알고 있는 증거로부터 일정한 결론 도출
- 귀납적: repeat(이전 결론을 이후 근거로 활용)⇒ 결론 도출. 데이터 분석
- 연역적: 이미 밝혀진 명제 및 경험 바탕 새로운 결과 도출. 이론적 부분
- 통계적 추론: 표본으로부터 모집단의 확률분포(모수)를 추측하는 것
- 추정: 표본으로부터 모집단에 대한 일반적 결론을 도출하는 것
- 검정: 모집단에 대한 주장 X에 대하여, 표본 바탕 X의 타당성 점검
- 추론의 분야: 확률이론(확률분포, 표본분포) + 추론이론(추정법, 검정법)
- 추론의 분류: 빈도론자frequentist | 베이즈주의자Bayeisan
- Lindley의 통계적 추론 정의
- 통계학은 불확실성에 대한 학문
- 불확실성은 확률로 측정
- 데이터의 불확실성은 모수 조건 하에서 측정
- 모수의 불확실성은 확률로 측정? ⇒ .some: 베이즈, .none:빈도론
- 추론은 확률분포에 의해 진행
통계적 추론 원리
- 가장 가능성(확률) 높은 결론을 낸다 ⇒ 가장 낮은 일은 믿지 않는다(유의성 검정)
- 모집단의 확률변수: X~f(x|t)
- 표본 추출: X,X2,…Xn~f(x|t)
- 서로 독립이고 동일한 분포를 가지는 확률 분포
- 모수에 적합한 통계량(추정량) 이용 + 표본분포 바탕 추정과 검정
- 가능도 원리likelihood principle
- 표본의 가능도함수에 표본으로부터 표본으로부터 나타날 수 있는 모수의 모든 정보를 가지고 있다는 원리
- 충분성 원리sufficiency principle
- 표본을 요약한 통계량이 모수의 정보를 잃지 않는다는 원리
- 통계량의 선택
- 불편성unbiasedness: 편파적이지 않은
- 효율성efficiency
- 일치성consistency
- 평균제곱오차: 모수와 추정량 사이의 손실함수의 기댓값
- 통계검정: 최적 검정 = 1종 오류 기준 하 2종 오류 최소화 검정
- 귀무가설(영가설): 모집단 특성 X가 옳다고 제안하는 잠정적 주장
- 대립가설(대안가설): 귀무가설이 틀렸을 경우 대안적 참이 되는 주장
- 제 1종 오류, 제 2종 오류
통계학 역사 개요
| 17세기 이전 | 종교적 시대 | ||
|---|---|---|---|
| 17-18세기 중 | 확률의 시대 | 대용량 data | 간단한 질문 |
| 18세기 중-19세기 중 | 오차이론의 시대 | 대용량 data | 간단한 질문 |
| 19세기 중 후 | 관측. 통계의 시대 | 소용량 data | 간단한 질문 |
| 20세기 초 중 | 통계적 추론의 시대 | 소용량 data | 간단한 질문 |
| 21세기 | 데이터과학의 시대 | 빅데이터 | 복잡한 질문 |