에너지와 함께

2024.12.03 - [Data Science/이론] - DS 이론19~20- 선형회귀분석(머신러닝),로지스틱 회귀분석* DS 이론19~20- 선형회귀분석(머신러닝),로지스틱 회귀분석*※ 학습자료 정리한 내용입니다. 19차시 선형회귀분석_머신러닝파트앞에서 배운 통계파트의 선형회귀분석과 접근방식,관심사가 다름. 정확히 딱 분류되어 학습하기! - 선형회귀분석  1) 독립변sometipsfor.tistory.com   - 로지스틱 회귀분석은 확률 기반 이진/다중 분류 문제를 해결하기 위한 간단하고 효과적인 방법- 이항 로지스틱 회귀분석은 종속변수가 0 / 1이며, 베르누이 분포를 따를 경우 사용- 모델의 산출 값은 각 데이터가 1이 될 확률이며, 이진 분류를 위해서 경계값(threshold) 필요. defa..

13차시 단순 회귀분석- 독립변수가 하나- 연속형 종속변수와 독립변수 간 선형관계 및 설명력을 확인하는 기법- 종속변수와 독립변수가 각각 하나인 경우의 단순 선형 회귀 모형- 설명력과 더불어 오차 평가 지표로 모델의 성능을 평가 statsmodels - ols()- 선형회귀 분석을 위한 statsmodels의 함수- ols 함수 내에 attribute 'formula' 에 종속변수와 독립변수를 선언 -> 종속 변수와 독립 변수 간의 관계를 정의하는 문자열   formula  = '종속변수 ~ 독립변수1 + 독립변수2 + ...' -> 순서 중요. 바뀌면 결과가 달라짐- fit() 메서드로 모델 적합시킴 -> predict() 예측- 변수명에 점 등 특정 특수문자가 있는 경우 오류 발생 ex) Sepal...

DataFrame 객체# arr_orarray([[0.00217286, 0.97222611, 1.10051618, 0.99907654, 0.859011 , 0.89337182, 0.46505065, 1.67512136, 0.75848875, 1.42281812, 1.04913786, 1.36414132, 1.1309326 , 1.30456154, 1.52551612, 0.64745381]])# pd.DataFrame(arr_or, columns = df_job2.columns[2:]) 데이터 색인, 필터링인덱서- df. loc [ row, column ] - DataFrame 객체는 2차원 객체 -> 인덱서를 사용하면 [ ] 사이에 , 쓰는 것을 권장-..

12차시 비계층적 군집분석k-means - 임의의 k개의 점을 기반으로 가까운 거리의 데이터를 묶는 것과 더불어 평균을 활용하는 군집분석 기법- 군집 개수(k)를 확정하기 위해 여러 번의 시행착오 필요- 결과 고정을 위해 seed 설정 필요 KMeans 모델링 전 보통 데이터 정규화를 많이 하기 때문에MinMaxScaler / StandardScaler 먼저 설명한다.# scikit-learn 패키지의 MinMaxScaler 클래스를 불러옵니다.from sklearn.preprocessing import MinMaxScalerfrom sklearn.preprocessing import StandardScalersklearn - MinMaxScaler()- MinMax 정규화를 실시하는 함수  - 데이터를..

※ 학습자료 정리한 내용입니다. 11차시 상관 분석- 두 변수의 선형관계를 확인- 두 수치형 변수의 비교는 Pearson' Correlation Coefficient를 확인하며 그 외 다양한 상관계수 존재- 상관계수가 0 에 가까울수록 선형관계가 약하며, 절댓값이 1에 가까울수록 강함- 기울기는 상관없음! QuantitiativeOrdinal  Quantitiative Pearson 's   Ordinal  Spearman  Pandas - corr ( )  - 각 열 간의 상관 계수를 반환하는 메서드 Parameters----------method : {'pearson', 'kendall', 'spearman'} or callable Method of correlation: * pearson..

9차시 데이터 전처리: 정렬 및 변환정렬- 특정 변수의 최대값, 최소값을 확인할 때 사용 - 시간 순서대로 데이터를 정렬할 때 활용  Pandas - crosstab( )  교차분석(cross tabulations)  : 범주형 변수로 되어있는 요인별로 교차분석(cross tabulations) 해서, 행, 열 요인 기준 별로 빈도를 세어서 도수분포표, 교차표 를 만들어줌  (명목척도 - 교차분석) - 데이터프레임의 두 변수의 원소 조합 빈도를 확인하는 함수- normalize 설정으로 각 조합의 비율을 계산 = 정규화      Q. workingday 가 아니면서 holiday가 아닌 날의 비율은? - value , aggfunc 설정하면 빈도가 아닌 별도 산술연산 가능 -> groupby 와 유사한 ..

이론) 2024.11.23 - [공부는해야지/data science] - DS 이론 10-데이터 전처리1_데이터크리닝6차시 데이터 전처리: 결측치, 이상치[이상치]- 중심 경향성에서 멀리 떨어진 값- 처리방법1. 이상치 처리에 절대적인 기준은 없음2. Carling, Tukey 방법3. 분포 기반으로 처리 [결측치]-값이 기록되지 않고 비어있음-처리방법1. 결측치 처리에 절대적인 기준은 없음2. 단순 제거와 특정 값으로 대체3. 분석 데이터에서 결측치가 차지하는 비중이 낮은 경우, 단순 제거하는 경우가 많음pandas - isna(), isnull()- 결측치 원소를 True, 관측치를 False로 변환하는 메서드- isna(), isnull() 동일 함수이며, isnull 은 isna의 Alias na..

(확률적) 표본 추출의 종류[단순 임의 추출]-  Simple Random Sampling- 별도의 규칙이 존재하지 않은 보통의 임의 추출 ex) 여 50, 남 50 -> 20 추출-> 남 20 만 뽑을 수도 있음단순임의추출은 편향적이라, 이를 보완한 방법이 층화표본추출 [층화 표본 추출] - Stratified  Random Sampling- 군집별로 지정한 비율만큼의 데이터를 임의추출 [계통 추출] - Systematic Sampling- 첫 표본을 무작위로 추출하고 표집 간격 k 만큼 떨어진 곳의 데이터 추출 [군집 추출] - Cluster Sampling- 소수의 군집으로 분할하고 일정의 소집단을 임의 표본 추출ex) 5개 조 중에 2조만 뽑아서 발표시킬 거야 Pandas - sample(n, f..

- 데이터를 다루고 분석하기 위해서는 수만 개의 데이터셋을 불러오고 가공하고 분석해야 함- 그래프나 통계적인 방법 - EDA 를 위해 Numpy, pandas 사용 - Numpy 와 pandas 차이 NumPy는 다차원 배열을 다루는 데 특화되어 있으며, Pandas는 데이터 조작과 분석을 위한 테이블 형식의 데이터를 다루는 데 특화되어 있습니다. - https://challenge.tistory.com/32- https://cleancode-ws.tistory.com/13 01 Numpy 객체 기본- 주로 array 함수 사용- 이 외에도 특수한 행렬의 형태를 생성하기 위한 함수 다수 존재- 배열 생성은 1~다차원 구조 가능- 전차행렬 등 선형대수 관련 연산 가능 배열 생성 - .reshape : 행렬..

cmd > jupyter notebook Q1. 주피터 노트북에 대한 설명 중 옳지 않은 것은? 31. 셀에는 코드를 입력할 수 없다.2. 셀은 명령모드와 편집모드가 있다.3. 한번 지운 셀은 되살릴 수 없다. -> 단축키 Z , Edit-Undo Delete Cells 사용4. 셀에는 주석을 입력할 수 있다. Q2. 주피터 노트북의 파일명이 있는 영역은? 11. 헤더2. 툴바3. 셀4. 네임스페이스 Q3. 셀의 코드를 실행하는 단축키 : Ctrl + Enter   print- 구분자로 쓸 값을 sep 사용print(1, 2, sep="/")  -> 1/2  02 자료형 - index 0부터 시작하고, 마이너스 개념은 마지막 index부터 옴- [2:] : index 2부터 끝까지- [:3] : 처음부터..