2주차가 어려웠다는 반응이 많았습니다. 오늘은 통째로 리마인드와 퀴즈로 채웁니다.
1부는 새 개념이 없습니다. 2주차에서 이미 본 것을 다른 각도로 확인하는 시간입니다.
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX01
평균은 데이터 전부를 더해 나눕니다. 그래서 극단값 하나에도 확 끌려갑니다.
평균 (mean) — 전부 더해 개수로 나눈다
중앙값 (median) — 정렬해서 가운데
최빈값(mode)은 가장 많이 나온 값이라 수식보다 세어 보는 것으로 정합니다. 2주차에서 평균·중앙값은 10명의 영어 점수 scores 로 구했지만, 최빈값만은 [1, 1, 1, 2, 2, 3] 같은 별도 예로 구했습니다 — 점수 10개는 값이 다 달라 최빈값이 잡히지 않기 때문입니다.
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX02
np.mean(scores) # 평균
np.median(scores) # 중앙값
pd.Series([1, 1, 1, 2, 2, 3]).mode() # 최빈값scores_df.mean() 처럼 pandas 도 같은 이름의 함수를 제공합니다. 교재는 둘을 나란히 보여 주는데, 분산에서는 나누는 수가 달라 값이 갈립니다 — 9번 장에서 다시 짚습니다.
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX03
10명 중 한 명의 점수가 유난히 낮게 찍혀 있습니다. 양적 데이터라 값이 겹치는 일은 거의 없습니다.
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX04
np.median(scores)
평균은 모든 값을 더해 나누므로 극단값 하나에도 크게 움직입니다. 중앙값은 정렬 후 가운데 순서를 보므로 그 값이 얼마나 극단적이든 순서만 밀립니다. 최빈값도 이상값에 강하지만, 양적 데이터는 똑같은 값이 거의 없어 대푯값으로 쓰기 어렵습니다 — 그래서 이 경우의 답은 중앙값입니다.
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX05
평균·중앙값·최빈값은 데이터를 한 점으로 요약합니다. 그 점 주변에 얼마나 퍼져 있는지는 아직 안 나옵니다.
다음 묶음은 편차 → 분산 → 표준편차 순서로 짚습니다.
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX06
편차를 그냥 더하면 늘 0 입니다. 흩어진 정도를 재려면 부호를 없애야 합니다.
분산
표준편차 — 단위를 원래대로
2주차에서 편차의 평균이 0 이 되는 것을 직접 확인했습니다. -14점과 +14점을 같은 크기로 취급하려고 제곱합니다.
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX07
2주차의 10명 점수로 단계마다 실제 값을 따라갑니다. 리스트로 가다가 평균을 내는 순간 숫자 하나가 됩니다.
| 단계 | 무엇을 하나 | 결과 모양 | 10명 실제 값 |
|---|---|---|---|
| 점수 | 원본 데이터 | 리스트 10개 | 42, 69, 56, 41, 57 … |
| 평균 | 전부 더해 10으로 나눔 | 숫자 하나 | 55.0 |
| 편차 | 각 점수 − 평균 | 리스트 10개 | −13, 14, 1, −14, 2 … |
| 편차² | 각 편차를 제곱 | 리스트 10개 | 169, 196, 1, 196, 4 … |
| 분산 | 편차²의 평균 ← 평균은 여기서 | 숫자 하나 | 86.0 |
| 표준편차 | 분산의 제곱근 | 숫자 하나 | 9.27 |
편차의 평균은 늘 0 이라 그 자리에서는 평균을 낼 수 없습니다. 제곱해 부호를 없앤 뒤에 냅니다.
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX08
np.var(scores) # 분산
np.std(scores) # 표준편차
np.sqrt(np.var(scores)) # 같은 값ddof=1 로 주면 n-1 로 나눕니다 — 표본에서 모분산을 추정할 때 씁니다.
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX09
10명의 영어 점수가 scores 에 들어 있습니다.
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX10
np.var(scores)
var 는 variance /ˈvɛəriəns/ 베어리언스, 곧 분산입니다. std 는 standard deviation /ˌstændərd ˌdiːviˈeɪʃn/ 스탠더드 디비에이션, 표준편차입니다. 표준편차는 분산에 제곱근을 씌운 값이라 np.sqrt(np.var(scores)) 와 같습니다.
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX11
분산·표준편차는 모든 데이터를 하나하나 제곱해 더합니다. 값이 많으면 계산이 무겁고, 극단값 하나에도 여전히 영향을 받습니다.
다음 묶음에서 범위와 사분위수 범위를 짚습니다.
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX12
범위는 값을 딱 두 개만 봅니다. 그중 하나가 극단값이면 범위가 그 값 하나에 좌우됩니다.
범위
사분위수 범위
범위가 이상값에 흔들리는 문제를 IQR 이 완화합니다.
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX13
np.max(scores) - np.min(scores) # 범위
scores_Q1 = np.percentile(scores, 25)
scores_Q3 = np.percentile(scores, 75)
scores_IQR = scores_Q3 - scores_Q1 # 사분위수 범위np.percentile(scores, 50) 은 np.median(scores) 와 같은 값입니다.
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX14
scores_IQR = scores_Q3 - scores_Q1 를 구했습니다.
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX15
데이터 중간 50% 가 퍼진 범위
Q1 아래 25% 와 Q3 위 25% 를 잘라내고 남는 가운데 50% 구간의 폭이 IQR 입니다. 양 끝의 극단값을 잘라내고 보므로 범위(Rg)보다 이상값에 덜 흔들립니다.
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX16
지금까지는 흩어진 정도를 숫자 하나로 요약했습니다. 이번엔 '이 값 하나'가 전체에서 어디쯤 있는지를 잽니다.
다음 묶음에서 표준화와 편차값을 짚습니다.
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX17
점수 자체는 시험마다 평균·분산이 달라 그대로 비교할 수 없습니다. 평균 0, 표준편차 1 인 척도로 바꾸면 비교가 가능해집니다.
표준화
편차값 — 표준화한 z 를 10 배 하고 50 을 더한 것
표준화한 데이터는 평균이 0, 표준편차가 1 이 됩니다. 편차값은 그 z 를 평균 50, 표준편차 10 짜리 척도로 옮긴 값이라 서로 다른 값입니다 — 그래서 여기서는 좌변을 T 로 구분해 적었습니다. 다만 교재와 노트북은 둘 다 z 로 적으니, 노트북을 채울 때는 교재 표기를 그대로 따르십시오.
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX18
z = (scores - np.mean(scores)) / np.std(scores) # 표준화
z = 50 + 10 * (scores - np.mean(scores)) / np.std(scores) # 편차값표준화한 z 는 평균 0, 표준편차 1 입니다. 편차값은 그 z 를 10배 하고 50 을 더한 것이라 평균 50, 표준편차 10 이 됩니다. 위 코드는 같은 이름 z 에 덮어쓰므로, 두 번째 줄을 실행한 뒤 np.mean(z) 를 찍으면 50 이 나옵니다.
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX19
z = 50 + 10 * (scores - np.mean(scores)) / np.std(scores) 로 계산했습니다.
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX20
평균보다 표준편차 2 배만큼 위
편차값 = 50 + 10z 이므로 70 이면 10z = 20, 즉 z = 2 입니다. 표준편차의 2 배만큼 평균 위에 있다는 상대적 위치를 말할 뿐, 원점수나 등수를 직접 알려주지 않습니다.
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX21
숫자 지표는 정확하지만 여러 개를 한꺼번에 보면 눈에 잘 안 들어옵니다. 표와 그림으로 분포 모양 전체를 보는 방법이 남았습니다.
마지막 묶음에서 도수분포표와 그림을 짚습니다.
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX22
값을 그대로 늘어놓으면 흩어진 모양이 안 보입니다. 구간으로 잘라 세면 분포 모양이 드러납니다.
계급값 — 구간의 가운데
상대도수 — 전체에서 차지하는 비율
도수분포표가 있으면 최빈값도 '도수가 가장 큰 계급의 계급값'으로 구할 수 있습니다 — 값이 다 달라 최빈값이 안 잡히는 양적 데이터에서 특히 쓸모 있습니다.
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX23
freq, _ = np.histogram(english_scores, bins=10, range=(0,100))
ax.hist(english_scores, bins=10, range=(0,100))
ax.boxplot(english_scores, tick_labels=['english'])freq_dist_df.loc[freq_dist_df['frequency'].idxmax(), 'class value'] 로 도수가 가장 큰 계급의 계급값(최빈값)을 찾습니다.
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX24
bins=10 이던 히스토그램을 bins=25 로 다시 그렸습니다. 여기서 묻는 것은 '도수가 가장 큰 계급의 계급값', 곧 도수분포표에서 구한 최빈값입니다.
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX25
그렇다 — 계급을 다시 나누면 도수가 가장 큰 계급 자체가 달라질 수 있다
도수분포표에서 최빈값은 '도수가 가장 큰 계급의 계급값'으로 정의됩니다. 50명 영어 점수에서 bins=10 일 때는 60~70 계급이 도수 18 로 가장 커 최빈값이 65 였는데, bins=25 로 잘게 나누면 64~68 계급이 도수 10 으로 가장 커 최빈값이 66 이 됩니다. 원자료의 최빈값(57)은 그대로입니다 — 바뀌는 것은 우리가 그은 선 위에서 구한 값 쪽입니다.
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX26
문서 조판 프로그래밍 언어입니다. 수식이 많은 논문·과제·주피터 마크다운에서 널리 씁니다.
발음은 '라텍'이 보편적으로 권장됩니다. 1984년 레슬리 램포트가 발표했습니다.
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX27
감싸는 방식만 다르고, 안에 쓰는 LaTeX 본체는 셋 다 같습니다.
| 방법 | 어디에 쓰나 | 화면에서 |
|---|---|---|
| $ 수식 $ | 마크다운 셀 · 문장 속에 섞어 | 글줄 안에 그대로 |
| $$ 수식 $$ | 마크다운 셀 · 문단으로 떼어 | 가운데 정렬, 크게 |
| display(Math(r'수식')) | 코드 셀 · 실행 결과로 | Out[n] · $ 안 붙임 |
\bar{x} = \frac{1}{n}\sum_{i=1}^{n} x_i→ 화면에 이렇게 나옵니다
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX28
파이썬이 따옴표 안의 백슬래시를 특수문자로 먼저 해석합니다.
| 쓴 것 | raw string 일 때 | 그냥 따옴표일 때 |
|---|---|---|
| \frac | \frac 그대로 | 폼피드 문자 + rac |
| \nu | \nu 그대로 (그리스 문자 뉴) | 줄바꿈 + u |
| \times | \times 그대로 | 탭 + imes |
\frac{1}{n}→ r 을 붙였을 때
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX29
x^2
x_i
x_{ij}차례로 제곱 · i번째 값 · 중괄호로 묶은 아래첨자
x_ij 처럼 중괄호를 빼면 i만 아래첨자가 되고 j는 그냥 옆에 붙어 버립니다.
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX30
\frac{1}{n}
\frac{x_i - \bar{x}}{S}차례로 1/n · 표준화 식의 분자분모
중괄호 두 쌍이 각각 분자와 분모입니다. 한 글자면 중괄호를 생략해도 되지만 늘 쓰는 편이 안전합니다.
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX31
\sqrt{S^2}
\sqrt[3]{x}차례로 제곱근(표준편차) · 세제곱근
\sqrt[n]{} 의 n 을 비우면 그냥 \sqrt{} 와 같은 제곱근이 됩니다.
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX32
\sum_{i=1}^{n} x_i
\int_{a}^{b} f(x)\,dx차례로 합 — n개를 더합니다 · 적분 — a에서 b까지
\, 는 좁은 빈 칸입니다. 적분 기호와 dx 사이에 붙여 가독성을 줍니다.
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX33
\mu
\sigma
\alpha
\beta
\lambda차례로 뮤 · 시그마 · 알파 · 베타 · 람다
첫 글자를 대문자로 쓰면 대문자 그리스 문자가 됩니다 — \sigma 는 표준편차, \Sigma 는 대문자 시그마입니다. 합 기호는 모양이 비슷해도 명령이 달라 \sum 으로 씁니다(위아래 첨자가 기호 위아래에 붙습니다).
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX34
\left( \frac{x_i - \bar{x}}{S} \right)
\bar{x}
\hat{p}차례로 괄호가 분수 높이에 맞춰 커진 모습 · 표본평균 · 추정값
괄호를 그냥 ( ) 로 쓰면 안의 분수가 커도 괄호 크기가 그대로라 답답해 보입니다. \left \right 를 붙이면 자동으로 늘어납니다.
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX35
S^2 = \frac{1}{n}\sum_{i=1}^{n}(x_i-\bar{x})^2분산
괄호 (x_i-\bar{x}) 다음에 바로 ^2 를 붙이면 괄호 전체가 제곱됩니다 — 이 순서를 안 지키면 x_i 만 제곱되어 버립니다.
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX36
여기서 묻는 것은 LaTeX 문법이지 통계 개념이 아닙니다.
공분산·상관계수처럼 아직 안 배운 수식은 그 단원을 배우는 주에 함께 씁니다. 배운 것을 손으로 쓰는 것이 순서입니다.
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX37
\bar{x} = \frac{1}{n}\sum_{i=1}^{n} x_i03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX38
평균
평균
\bar{x} 는 표본평균을 나타내는 표준 표기입니다. 전체를 더해(\sum) n으로 나누는(\frac{1}{n}) 모양이 평균의 정의 그대로입니다.
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX39
S^2 = \frac{1}{n}\sum_{i=1}^{n}(x_i-\bar{x})^203주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX40
분산
분산
편차(x_i-\bar{x})를 제곱해 평균낸 식이 분산입니다. 제곱 없이 그냥 더하면 늘 0이 되므로 ^2 가 들어간 것이 분산의 표식입니다.
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX41
S = \sqrt{S^2}03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX42
표준편차
표준편차
분산 S^2 에 \sqrt 를 씌워 원래 단위로 되돌린 값이 표준편차입니다. 분산은 제곱 단위라 그대로는 원 데이터와 단위가 안 맞습니다.
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX43
Rg = x_{\max} - x_{\min}03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX44
범위
범위
최댓값에서 최솟값을 뺀 값이 범위(Rg)입니다. \max, \min 처럼 함수 이름은 \ 를 붙여 로마체로 씁니다.
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX45
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX46
z_i = \frac{x_i - \bar{x}}{S}표준화
아래첨자 _i, 분수 \frac{}{}, \bar{} 세 가지를 조합하면 됩니다.
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX47
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX48
z_i = 50 + 10 \times \frac{x_i - \bar{x}}{S}편차값
표준화 식 앞뒤로 50 을 더하고 10 을 곱하는 부분만 숫자와 \times 로 그대로 적으면 됩니다. 좌변은 교재 표기를 그대로 따라 z_i 로 씁니다 — 18번 장에서 본 T 는 표준화와 구분해야 할 때 쓰는 기호입니다.
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX49
LaTeX.ipynb 의 빈칸을 오늘 배운 문법으로 채웁니다.
노트북에는 03~08장 수식도 들어 있습니다. 단원을 배울 때 그 칸을 채우면 학기 끝에는 전체가 완성됩니다.
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX50
2차원 데이터 정리 — 두 변수의 관계를 재는 지표를 배웁니다.
상관계수 — 다음 주에 배울 식
이 식을 LaTeX 으로 쓰는 것도 다음 주에 함께 합니다. 오늘 익힌 \frac 과 아래첨자 문법이 그대로 쓰입니다.
03주차 · 1차원 데이터 정리 리마인드 · 퀴즈 · LaTeX51