통계의 분석의 활용 - 분산분석, 가설검증

통계 분석의 활용

회귀분석의 가설 Hypothesis

  • 회귀방적식을 구한 후 검증이 필요
  • 단순회귀직선의 적합도 검증
    • 가설의 설정 : Y = a + bx + c
    • 귀무가설 : b = 0
    • 대립가설 : b != 0
    • 귀무가설은 통계학에서 처음부터 버릴 것으로 예상하는 가설
    • H분석
      • H0 : 독립변수 x가 y에 영향을 주지 않는다
      • H1 : 독립변수 x가 y에 영향을 준다
  • 통계적 가설 검증은 F값으로 확인
    • 유의확률(p값) < 0.05 : 이 모형이 적합 -> 귀무가설 채택
    • 유의확률(p값) > 0.05 : 이 모형은 부적합 -> 귀무가설 기각
    • 유의확률이 0.05는 오류가 나올 확률이 5%라는 의미로 유의수준이 95% 신뢰도를 갖는다를 의미
      • 그래프를 그렸을 때 양쪽으로 벗어날 확률임

요약 가설과 검정 방법

  1. 정규성 검정(데이터 탐색)
    • H0 : 모집단 분포는 정규분포를 따른다
    • H1 : 모집단 분포는 정규분포를 따르지 않는다
  2. 분산의 동질성 검정(독립 T검정, 분산분석)
    • H0 : 각 집단의 분산은 동질성을 가진다
    • H1 : 각 집단의 분산은 동질성을 가지지 않는다
  3. 독립성 검정(상관분석)
    • 상관계수 : -1 <= r <= 1
    • H0 : 상관계수 e = a : 독립
    • H1 : 상관계수 e != 0 : 종속
  • 유의확률이 0.05보다 크면 귀무가설이 채택된다

가설 검정

검정통계량
표

  • 가설검정은 모집단의 모수가 이럴 것이다라를 가설을 위해 모수인 u, a^2, p를 사용해서 귀무가설과 대립가설 설정
    • 일반적으로 표본통계량으로 대체
    • 각 표본집단에 맞는 확률분포에 따라 신뢰구간 추정
    • 각 확률분포의 x 값을 검정통계량으로 사용

t분포; t-distribution

  • 모집단의 특징을 분석하기에는 시간과 비용의 제약으로 일반적으로 표본조사를 실시하고, 이를 모집단과 같을 것임을 추정함
  • 표본의 개수가 적으면(일반적으로 30개 미만) 신뢰도가 낮아짐
  • 따라서 정규분포 보다 예측 범위가 넓은 분포인 t-분포를 사용
    t분포

카이제곱 분포

  • 명목 및 서열척도의 범주형 변수를 분석하기 위해 한 변수의 범주를 다른 변수의 범주에 따라 빈도를 교차분석하여 두 변수 간 독립성과 관련성을 분석
  • 제곱된 값 분산을 다루기 때문에 음수값이 없고 양수만 존재 - 오른쪽 만 꼬리가 긴 비대칭 모양
    카이제곱분포

F분포; F-distribution

  • 집단의 분산을 추정하고 검정할 때 사용하는 분포
  • 카이제곱 분포와 유사하나 한 집단의 분산을 파악하는 카이제곱과 달리 F분포는 두 집단의 분산을 비교
  • 3개 이상 집단의 분산을 비교하는 것을 보통 분산분석:Analysis of Variance이라고 하며 신뢰구간 추정과 가설검증, 분산분석에 F-분포가 많이 사용됨
    F분포

요인분석

  • 일련의 관측된 변수에 근거하여 직접 관측할 수 없는 요인을 확인하는 분석 기법
    • 경제활동, 가계수입, 주택보급율, 출생률 등 수많은 변수를 사용해야 하나, 몇가지 적은 변수로 묶어 단순화하는 것
  • 항목 간의 상관관계가 높은 것끼리 하나의 요인으로 묶거나 중요도가 낮은 변수는 제거
    • 하나의 요인으로 묶어진 항목들은 하나의 개념을 측정한 것으로 간주하며, 요인 내의 항목은 수렴적 타당성, 요인간에는 변별적 타당성이 적용된 것으로 해석
  • 같은 개념을 측정하려고 하는 변수들이 동일한 요인으로 묶이는지 확인하고자 하는 경우
  • 전제조건
    • 모든 변수가 드간척도 이상의 연속형 변수로 측정되어야 함
    • 각 변수는 서로 독립이며 정규분포, 등분산을 이루고 있어야 함
    • 표분의 수는 50이상 내지 변수의 5배수 이상을 권고하고 있음

Excel을 분석도구를 활요한 예제 - 회귀분석, 상관분석

분석도구 옵션

  • 파일 -> 옵션 -> 추가기능 -> 관리: 이동클릭 -> 분석도구체크 -> 확인
  • 데이터탭 -> 분석 메뉴 -> 데이터분석 확인

회귀분석

  • 다음과 같이 Adv-홍보지출액, bp Diff-이자지급액, Deposits-새로운 예치금을 통해 회구분석을 해보자
    예시
  • 회귀분석 선택
    데이터분석
  • 값 입력
    • Y는 원하는 목표
    • X는 무엇을 통해 Y를 예측하고 싶은지
      값 입력
  • 결과
    결과
  • 해석
    • 결정계수가 0.58이면 0.6에 가까우므로 Adv와 bp Diff가 Depositis에 영향이 있다고 할 수 있음

상관계수

  • 다음과 같이 사람의 신장과 체중 성별 그리고 기타test끼리의 상관관계를 확인해보자
    예시
  • 데이터분석의 상관분석 클릭
  • 값 입력
    • 입력 범위시 이름은 의미가 없으므로 제외
    • 첫 행이 이름표가 있으므로 체크
      값 입력
  • 결과
    결과
  • 해석
    • 체중과 신장은 큰 상관관계까 있다
    • 성별은 신장과 체중과 연결관계가 있다
    • Test1과 신장, 체중, 성별은 큰 의미가 없다
    • 최대 1.0을 넘을 수 없음
    • 음수일 때는 전혀 상관없음으로 해석

통계의 분석의 활용 - 회귀분석, 상관분석

통계 분석의 활용

기술통계화 추론통계

  • 변수의 종류에 따라 분석하는 모형이 다르다
    변수의 종류에 따른 분석모형

회귀분석 Regression Analysis

  • 변수와 변수 사이의 관계를 통계적으로 분석하는 방법
  • 독립변수 값에 의한 종속변수 값을 예측하기 위해 사용 - 단순회귀 분석 - 하나의 종속변수(Y)와 하나의 독립변수(X)간의 관계분석 - y = ax + b 형태 - 다중회귀 분석 - 하나의 종속변수(Y)와 둘 이상의 독립변수(X1, X2, …)간의 관계 분석 - y = ax1 + bx2 + c 형태
  • 독립변수에 의한 종속변수 변화량을 근사한 방정식이기 때문에 기울기가 같더라도 측정값의 분포는 다를 수 있음
  • 결정계수(R^2)로 나타냄
    결정계수

결정계수 R^2 ; coefficient of determination

  • 추정한 선형 모형의 적합도를 나타내는 척도로 사용
  • 즉 독립변수가 종속변수의 몇 %인가를 설명하는 수치
    • ex) 0.63이라면 63% 적합성을 갖음
    • 0이면 기울기는0이고 1이면 오차는 0
  • 선형 회귀분석에서 '전체 제곱합 중에서 회귀 제곱합이 나타내는 비중’을 의미
    • 0 <= R^2=SSR/SST <= 1
    • SSR : 회귀 제곱합
    • SST : 총 제곱합
    • SSE : 잔차 제곱합
  • 계산방법
    • 최소자승법에 의한 수학적으로 계싼
      • 측정갑과 임의의 수직 거리의 제곱의 총 합이 최소가 되는 방정식 도출
    • Excel에서 LINEST(Y,X) 함수 사용

F값의 이해

  • F 값은 모형 적합도를 나태냄
  • 0.05보다 작다면 적합
  • 0.05보다 크면 부적합
  • 즉 0.05 보다 커야 회귀식이 유의미함

SPSS에서 유의사항 (R 같은 것)

  • 공선성 : 독립변수 간에 상관성이 높아 회귀분석에 적합하지 않음
  • Cook의 통계량 값이 1.0 이상이면 이상점으로 간주
  • 잔차의 등분산성, 독립성, 정규성 검증

상관계수 correlation coefficient

  • 연속형 두 변수의 관련성의 세기 분석에 사용
  • -1 <= r <= 1
  • Pearson 상관계수
    • 모집단의 분포가 정규분포에 가까우면 사용
    • 두 변수가 양적자료인 경우 사용
  • Spearman 상관계수
    • 모집단이 비정규분포를 나타낼 때 사용
    • 두 변수 중 하나라도 순위척도인 경우
      상관계수

언제사용할까?

  • 선형회귀분석

    1. 아버지의 혈압과 아들의 혈압 관계
    2. 입원기간과 수술시간의 관계
    3. 혈압과 연령의 관계
  • 로지스틱 회귀분석

    1. 경제적 수입과 삶의 질의 정도와의 관계
    2. 통증과 암의 진행단계와의 관계
  • 회귀분석은 종속변수와 독립변수 모두 양적 변수이어야 함

  • 종속변수가 질적이고 독립변수가 양적이면 로지스틱 회귀분석 사용

API API오용 Anaconda Beacon Bluetooth CRUD분석 Camera ChatBot DB관련신기술 DB관리기능 DB서버 DB표준화 ER다이어그램 ER모델 ETL Flask HW관련신기술 IDE도구 IP IoT Machine_Translation NLP배경 ORM프레임워크 Package Recurrent Neural Network SDLC SW개발방법론 SW개발방법론선정 SW개발보안정책 SW개발표준 SW관련신기술 Sequence_Tagging ShellScript TCP_UDP Vector WordCloud c 자료형 class embedding konlpy python python 자료형 가설검증 개발환경구축 객체지향프로그래밍언어 관계데이터베이스모델 관계데이터언어 국제표준제품품질특성 네트워크7계층 네트워크관련신기술 네트워크장비 네트워크침해공격용어 논리데이터모델개요 논리데이터모델품질검증 논리적데이터모델링 논문 단위모듈구현 단위모듈테스트 데이터검증 데이터모델개념 데이터베이스무결성 데이터베이스백업 데이터베이스암호화 데이터베이스용량설계 데이터베이스이중화구성 데이터베이스정규화 데이터분석 데이터분석 - 순열 - 조합 데이터분석 - 정규분포 데이터분석 - 통계기초 데이터사이언스개념 데이터입출력 데이터전환수행계획 데이터정제 데이터조작프로시저작성 데이터조작프로시저최적화 데이터조작프로시저테스트 데이터지역화 데이터타입 데이터표준확인 데이터품질분석 라이브러리 로그분석 메모리관리 모델화 몬테카를로 물리데이터모델설계 물리데이터모델품질기준 물리데이터저장소구성 물리요소조사분석 반정규화 배치프로그램 변수 보안기능 보안솔루션 보안아키텍처 보안취약성식별 분산데이터베이스 분산분석 비용산정모델 빌드자동화도구 사용자정의함수 상관분석 서버개발프레임워크 서버인증 서버장비운영 서버접근통제 서비스공격유형 선언형언어 세션통제 소스코드인스펙션 소프트스킬 소프트웨어개발프레임워크 소프트웨어버전관리도구 소프트웨어연계테스트 슈퍼디엠지 스크립트언어 시스템카탈로그와뷰 암호알고리즘 애플리케이션모니터링도구 애플리케이션배포도구 애플리케이션성능개선 애플리케이션테스트결과분석 애플리케이션테스트시나리오작성 애플리케이션테스트케이스작성 애플리케이션통합테스트수행 애플리케이션패키징 연산자 예외처리 오답노트 오류데이터측정 오류처리 오류처리확인및보고서작성 요구공학방법론 운영체제 웹서버 이벤트 인터넷구성의개념 인터페이스구현검증 인터페이스기능확인 인터페이스보안 입력데이터검증및표현 자료구조 자연어처리 재사용 절차적프로그래밍언어 정보보안침해공격용어 정보처리기사 제품소프트웨어매뉴얼작성 집계성DCL작성 체크리스트 초기데이터구축 취약점분석 칼럼속성 캡슐화 코드오류 클러스터링 키종류 테일러링기준 트랜잭션인터페이스 트리거 파일처리기술 파티셔닝 패키지 포트포워딩 프로세스스케줄링 프로토타입 한국어임베딩 핵심정리 현업도구 형상관리도구 환경변수 회귀분석
Your browser is out-of-date!

Update your browser to view this website correctly. Update my browser now

×