에너지와 함께

※ 학습자료 정리한 내용입니다. 19차시 선형회귀분석_머신러닝파트앞에서 배운 통계파트의 선형회귀분석과 접근방식,관심사가 다름. 정확히 딱 분류되어 학습하기! - 선형회귀분석  1) 독립변수 X로 종속변수Y를 설명할 때, 선형 관계인 경우  2) 독립변수 X가 여러 개일 수 있다 - 선형회귀분석 머신러닝에서는 통계학적 가정(선형성, 정규성, 등분산성, 독립성)이 없음- 대신, 머신러닝에서도 데이터를 보고 절편, 기울기를 구할 수 있어야 함  선형모델의 핵심은 실제 값($y_i$)과 모델이 예측한 값($\hat{y_i}$)사이의 오차를 최소화하는 것이다.오차는 MSE(Mean Squared Error) 로 측정한다.MSE:  실제 값과 예측 값 간의 차이의 제곱의 평균  머신러닝에서는 미분을 통해 MSE의 ..

※ 학습자료 정리한 내용입니다. 16차시 머신러닝 개요 및 유형Q. 용어 개념 - 머신러닝: '자동으로' 개선되는 컴퓨터 알고리즘에 대한 학문- Artifical Intelligence ⊃ Machine Learning ⊃ Deep Learning (가장 유명한 알고리즘) Machine Learning 종류 **Machine LearningSupervised LearningUnsupervised LearningReinforcement LearningTask Driven( Regression / Classification)Data Driven(Clustering / 차원축소)Algorithm learns form mistakes [Supervised Learning, 지도학습]= '교사학습', Deep..

9차시 데이터 전처리: 정렬 및 변환정렬- 특정 변수의 최대값, 최소값을 확인할 때 사용 - 시간 순서대로 데이터를 정렬할 때 활용  Pandas - crosstab( )  교차분석(cross tabulations)  : 범주형 변수로 되어있는 요인별로 교차분석(cross tabulations) 해서, 행, 열 요인 기준 별로 빈도를 세어서 도수분포표, 교차표 를 만들어줌  (명목척도 - 교차분석) - 데이터프레임의 두 변수의 원소 조합 빈도를 확인하는 함수- normalize 설정으로 각 조합의 비율을 계산 = 정규화      Q. workingday 가 아니면서 holiday가 아닌 날의 비율은? - value , aggfunc 설정하면 빈도가 아닌 별도 산술연산 가능 -> groupby 와 유사한 ..

이론) 2024.11.23 - [공부는해야지/data science] - DS 이론 10-데이터 전처리1_데이터크리닝6차시 데이터 전처리: 결측치, 이상치[이상치]- 중심 경향성에서 멀리 떨어진 값- 처리방법1. 이상치 처리에 절대적인 기준은 없음2. Carling, Tukey 방법3. 분포 기반으로 처리 [결측치]-값이 기록되지 않고 비어있음-처리방법1. 결측치 처리에 절대적인 기준은 없음2. 단순 제거와 특정 값으로 대체3. 분석 데이터에서 결측치가 차지하는 비중이 낮은 경우, 단순 제거하는 경우가 많음pandas - isna(), isnull()- 결측치 원소를 True, 관측치를 False로 변환하는 메서드- isna(), isnull() 동일 함수이며, isnull 은 isna의 Alias na..

※ 학습자료 정리한 내용입니다. [Level 2] 13 데이터 전처리 1_데이터클리닝 13차시 데이터 전처리 1_데이터클리닝: 데이터를 분석하기 좋은 형태로 만드는 과정 [데이터 전처리의 필요성]  ** : 데이터 품질은 분석 결과 품질의 출발점이며,  데이터 품질이 높은 경우에도 데이터 전처리는 필요하다 - 데이터 전처리가 필요한 경우구조적 형태가 분석 목적에 적합하지 않은 경우 사용하는 툴, 기법에서 요구하는 데이터 형태가 있는 경우데이터가 너무 많은 경우데이터 품질이 낮은 경우불완전(Incomplete) : 데이터의 필드가 비어있는 경우 "결측치"잡음(Noise) : 데이터에 오류가 포함된 경우 "이상치" ex) 수치형 데이터 중 문자형 존재모순(Inconsistency) : 데이터 간 정합성, 일..

(확률적) 표본 추출의 종류[단순 임의 추출]-  Simple Random Sampling- 별도의 규칙이 존재하지 않은 보통의 임의 추출 ex) 여 50, 남 50 -> 20 추출-> 남 20 만 뽑을 수도 있음단순임의추출은 편향적이라, 이를 보완한 방법이 층화표본추출 [층화 표본 추출] - Stratified  Random Sampling- 군집별로 지정한 비율만큼의 데이터를 임의추출 [계통 추출] - Systematic Sampling- 첫 표본을 무작위로 추출하고 표집 간격 k 만큼 떨어진 곳의 데이터 추출 [군집 추출] - Cluster Sampling- 소수의 군집으로 분할하고 일정의 소집단을 임의 표본 추출ex) 5개 조 중에 2조만 뽑아서 발표시킬 거야 Pandas - sample(n, f..

- 데이터를 다루고 분석하기 위해서는 수만 개의 데이터셋을 불러오고 가공하고 분석해야 함- 그래프나 통계적인 방법 - EDA 를 위해 Numpy, pandas 사용 - Numpy 와 pandas 차이 NumPy는 다차원 배열을 다루는 데 특화되어 있으며, Pandas는 데이터 조작과 분석을 위한 테이블 형식의 데이터를 다루는 데 특화되어 있습니다. - https://challenge.tistory.com/32- https://cleancode-ws.tistory.com/13 01 Numpy 객체 기본- 주로 array 함수 사용- 이 외에도 특수한 행렬의 형태를 생성하기 위한 함수 다수 존재- 배열 생성은 1~다차원 구조 가능- 전차행렬 등 선형대수 관련 연산 가능 배열 생성 - .reshape : 행렬..

cmd > jupyter notebook Q1. 주피터 노트북에 대한 설명 중 옳지 않은 것은? 31. 셀에는 코드를 입력할 수 없다.2. 셀은 명령모드와 편집모드가 있다.3. 한번 지운 셀은 되살릴 수 없다. -> 단축키 Z , Edit-Undo Delete Cells 사용4. 셀에는 주석을 입력할 수 있다. Q2. 주피터 노트북의 파일명이 있는 영역은? 11. 헤더2. 툴바3. 셀4. 네임스페이스 Q3. 셀의 코드를 실행하는 단축키 : Ctrl + Enter   print- 구분자로 쓸 값을 sep 사용print(1, 2, sep="/")  -> 1/2  02 자료형 - index 0부터 시작하고, 마이너스 개념은 마지막 index부터 옴- [2:] : index 2부터 끝까지- [:3] : 처음부터..

※ 학습자료 정리한 내용입니다.[이전 내용]2024.11.22 - [Data Science/이론] - DS 이론10-선형회귀분석2_통계파트(주요 가정) DS 이론10-선형회귀분석2_통계파트(주요 가정)※ 학습자료 정리한 내용입니다.  선형회귀분석의 4가지 가정 ***출처: http://kocw-n.xcache.kinxcdn.com/data/keris/2021/leeyoonmo1021/3-4.pdf 선형성 : 독립변수와 종속변수 간 선형관계정규성 * : 오차 분산의 형sometipsfor.tistory.com- 앞선 선형회귀분석 4가지 가정 관련 이슈 이외 다른 이슈에 대해 설명 다른 이슈가 있는 데이터일 때[이상치 이슈]확인방법히스토그램, 막대그래프 등대응방법데이터 변환 : 이상치 데이터를 지움Robus..

※ 학습자료 정리한 내용입니다.  [이전 내용]2024.11.20 - [Data Science/이론] - DS 이론09- 선형회귀분석 DS 이론09- 선형회귀분석※ 학습자료 정리한 내용입니다.  - 상관분석을 통하여 두 변수 간에 선형성이 있음을 알았으나, 인과관계를 알 수는 없음! 회귀분석 (Regression Analysis)- (상관분석을 통해서) 두 개의 변수가 선sometipsfor.tistory.com선형회귀분석의 4가지 가정 ***출처: http://kocw-n.xcache.kinxcdn.com/data/keris/2021/leeyoonmo1021/3-4.pdf 선형성 : 독립변수와 종속변수 간 선형관계정규성 * : 오차 분산의 형태. 한 개의 x 가 가진 y 값의 오차 분산 형태.등분산성 ..