출처: https://astrocosmos.tistory.com/202 [ASTROCOSMOS:티스토리] 하나둘셋넷 :: 하나둘셋넷
728x90

내용

  • 평균 : numpy , pandas
  • Maplotlib 시각화 : 히스토그램, 박스플랏, plot
  • seaborn : kde 밀도함수, 히스토그램 + kde 밀도 함수 한 번에 그리기, 하나의 그래프에 두 개의 kde

 

평균(산술평균)

 

1. 넘파이 함수 이용

np.mean(데이터프레임['컬럼명'])

 

2. 판다스 mean 메서드 이용

데이터프레임['컬럼명'].mean()

 

히스토그램 작성

plt.hist(데이터프레임.컬럼명, bins = 숫자, edgecolor = '색상명')

plt.title('제목')

plt.ylabel('y 라벨명')

plt.show()

 

 

Boxplot 그리기

plot.boxplot(데이터프레임['컬럼명'])

옆으로 그리려면,

plt.boxplot(데이터프레임['컬럼명'], vert=False)

plt.grid()

plt.show()

 

plot 차트 이용

plt.plot(데이터프레임['컬럼명'])

 

 

밀도함수 그리기 <kdeplot>

sns.kdeplot(데이터프레임['컬럼명'])

plt.show()

 

히스토그램 + 밀도함수 합쳐서 그리기 <hisplot+kde></hisplot+kde>

sns.hisplot(데이터프레임['컬럼명'], ked=True)

 

하나의 그래프에 두 개의 밀도함수그래프 그리기 <kde+kde>

sns.kdeplot(x='컬럼명'1, data = 데이터프레임, label = '라벨이름')

sns.kdeplot(x='컬럼명2, data = 데이터프레임, label = '라벨이름')

plt.legend()

plt.gride()

plt.show()

 

728x90
728x90

KT Aivle School 에이블스쿨 기자단] 9.04(월) ~ 9.10(일)  시즌 1호 발표 & ADsP 합격

이번 주의 스케줄

  • 미니 프로젝트
  • ADsP 발표
  • 데이터 수집 -> 웹 크롤링을 잘 활용하면 쏠쏠하게 아르바이트를 할 수 있다고 해서 좀 더 흥미가 갔다 “크몽” 사이트는 메모
  • 데이터 분석
  • 이번 셀프 테스트 잘 본건가.. 알쏭달쏭
  • 데이터 분석 삽질 ㅠ

 

2차 미니프로젝트 1일차

시즌 1호 발표 완료~
 
저번 1차 미니 프로젝트에서는 스스로에게 만족스럽지 못해서 열심히 준비한 결과,
 

발표를 하고 칭찬을 받을 수 있었다

 코딩 파일 시작 부분에 뚜렷한 목적성을 잘 나타낸게 어필한 포인트

시즌 1호 발표 완료!! 칭찬 받은 시작 부분 9.06(수)

 

첫 발표라 그런지 우쭈쭈해주는 고마운 팀원들ㅜ 

 이번 주 미니 프로젝트에서 계속 삽질했던 포인트는 상관분석, 카이제곱검정, t검정에서의 p-value에 따른 귀무가설 기각이었다...
 ADsP를 땄다는 녀석이 이런 부분에서 실수를 하니 스스로 한심하게 느껴진 부분

 

이번 수업 리뷰

 

이번주 수업 중 인상 깊었던 내용
수업 때 적었던 내용들 중 일

 브라우저 홈페이지에서 F12를 눌러 페이지 내의 정보를 탐색하는 내용이 흥미로웠다.

 Beautiful Soup 라이브러리, CSS를 열심히 배워서 웹 크롤링을 통해 추후에 해커톤이든 개인 프로젝트에서든 정보 수집 능력을 키우고 싶다는 생각을 했다!!

 

ADsP 합격!!

 
1 과목 만점으로 점수를 많이 딴게 다행
민트 이론 한 바퀴 돌리고, 모의고사 + 기출을 5바퀴 돌리니 시험 때 큰 어려움 없이 문제를 풀 수 있었다
역시 자격증은 무조건 기출 뺑뻉이
 

이번 주 셀프 테스트

 

그동안 셀프 테스트 점수가 잘 나와서 만만하게 봤는데 이번에는 수업 때 이론 부분에서 잘 집중을 못해서 그런지 쉽지 않게 느껴졌다

앞으로 수업에서 딴짓하지 말고 빡 집중 해야지!!

 

 

 

이번 주 프로그래머스 문제 풀이

 

문제 <3진법 뒤집기>
문제 <배열 조각하기>
문제 <수열과 구간 쿼리 2>
문제 <주사위 게임 3>

코드 정리

 

수치형 상관분석 p-value 내림차순 정렬

def pearson_value(df):
    keys = []
    spst_list=[]
    spst_dict = {}
    
    for i in df.columns:
        if ( df[i].dtypes=='int64'):
    #         print(i, base_data[i].dtypes)
            keys.append(i)
    # print(keys)

    # 피어슨 상관분석 p-value 값을 value로 사용하기 위해 준비
    for i in keys:
        spst_list.append(list(spst.pearsonr(df[i], df['Score_diff_total'] ))[1])
    # print(spst_list)
    # print('='*100, '\n상관계수 p-value 출력', sep='')
    spst_dict = dict(zip(keys, spst_list))
    # display(spst_dict)
    
    # 딕셔너리 형태로 만들어 p-value 값을 아래로 오름차순으로 출력
    # lambda 매개변수 : 표현식
    # items를 통해 키-값 쌍을 나타내는 튜플 리스트를 생성
    # key = lambda x : x[1] 부분에서 'x'는 리스트에서 하나의 튜플
    # x[1] 은 value 값을 정렬 기준으로 삼는다.
    spst_dict = sorted( spst_dict.items(), key = lambda x : x[1])
    # display(spst_dict)

    for key, value in spst_dict:
        print(f'{key}:{value}')

 

728x90
728x90

KT Aivle School 에이블스쿨 기자단] 8.28(월) ~ 9.3(일) 서울교육공모전 마무리 & 데이터분석 & 교육선발

이번 주의 스케줄

  • 데이터 분석 수업 --> ADsP 내용과 겹치는 부분이 있어서 이해에 도움이 되었다
  • 서울교육공모전 마무리
  • 현재까지의 셀프 테스트 점수
  • 교육 선발, 아쉽게 회식은 불참ㅠ
  • 코딩 복습

이번주 후기

 데이터 분석 수업으로만 이루어진 주였다.
 
 ADsP를 공부했어서 이해를 하는 데에 살짝 도움이 되긴 했지만 통계학과나 수학과 출신에 비하면 미약한 지식...
 
 데이터 분석에서 코딩은 구현을 위한 도구이고 통계 지식이 더 중요할 수 도 있을 것 같다는 생각이 들었다.
 
 핵심 개념 : 카이제곱검정, t검정, anova 분석, 피어슨 상관분석에서 p-value 해석!
 
 p-value 0.05 미만일 때 채택하는 대립가설은 어떤 것인가

 

 p-value 0.05가 기준선임은 확실히 기억해두면, 다른 부분은 헷갈릴 때 귀무가설이 무엇이지만 확인하면 손쉽게 문제를 해결할 수 있을 거라 생각한다

 

이번 주 수업 때마다 복습했던 CRISP-DM

 

드디어 수업과 병행하던 공모전을 마무리 했다!!

 그동안 "수업 중간 쉬는 시간 &  점심 시간"에도  공모전 준비에 시간을 투자해서 정말 힘들었는데 이제 다시 쉬는 시간에는 쉴 수 있을 거 같다 휴..

첫 공모전 마무리!!!

현재까지의 셀프 테스트 점수

100점 흐름은 계속 유지하자!!



교육선발~~

AIVLE School에서 머신러닝 교육에 들어가기 미리 들어두면 좋을 거 같아 신청해둔 교육에 선발되었다
 
좋긴하지만... 이 일정으로 반 회식에 참여 못하는 거는 아쉬운 포인트

 

지금 코딩이 거의 노베이스 상태라 앞으로 참여할 수 있는 교육이 있다면 적극적으로 참여하려고 한
 

교육선발

 

 

이번주 프로그래머스 문제풀이

 매주 일요일 내가 리더로 진행하는 스터디를 통해 꾸쭌히 프로그래머스 문제를 풀어가는 것이 큰 도움이 된다고 느끼고 있다.

 참여원이면 가끔 불참했을 수도 있는데 리더라 한 주도 빠지지 못하니 강제성이 부여되어 더 열심히 할 수 있다고 느낀다.

 돌아가며 자신들의 코드를 발표하는데, 다른 사람 코드를 보고 설명을 들으니 시야가 넓어지는 느낌도 받고 있다.

 

 

 

이번주 코딩 복습!!

컬럼 정보 데이터프레임.columns
   
컬럼 이름만 리스트에 담아 조회 list( 데이터프레임.columns )
   
데이터프레임 조건 조회(loc) 데이터프레임.loc [  (데이터프레임['컬럼명']==1) & (데이터프레임['컬럼명'] <=10) ]
   
데이터프레임 조건 조회 male_age = 데이터프레임.loc[ 데이터프레임['컬럼명'] == '원하는 데이터', '컬럼명']
female_age = 데이터프레임.loc[데이터프레임['컬럼명'] =='원하는 데이터','컬럼명']

실제 코드

male_age = titanic.loc[titanic['Sex'] == 'male', 'Age']
female_age = titanic.loc[titanic['Sex'] =='female','Age']

titanic['Sex'].value_counts()
   
결측치가 아닌 값 조회 데이터프레임.loc[ 데이터프레임['컬럼명'].notna() ]
   
특정 수치 사이값 조회
(ex) 10 ~ 20 사이 값
데이터프레임.loc[ 데이터프레임['컬럼명'].between(10, 20) ]
  데이터프레임.loc[ (데이터프레임['컬럼명']>=10) & (데이터프레임['컬럼명'] <=20) ]
   
날짜 데이터 조회 데이터 프레임.loc['컬럼명'].isin( [ '날짜', '날짜' ] ) 

실제 코드

air.loc[air['Date'].isin(['1973-05-01', '1973-06-01', '1973-07-01', '1973-08-01']) ]
   
데이터프레임 값 변경 데이터프레임['컬럼명'] = 데이터프레임['컬럼명'].map({"원본 데이터" : "바꿀 데이터",
                                                                                    "원본 데이터" : "바꿀 데이터"} )
   
데이터 값 변경 pd.cut 데이터프레임['컬럼명'] = pd.cut(데이터프레임['컬럼명'], bins=[-np.inf, 30, 100, np.inf],
                                      labels = ['L','M','H'])      
   
데이터 값 변경 np.where 데이터프레임['컬럼명'] = np.where(데이터프레임['컬럼명'] =='데이터값', 0, 1)
  데이터프레임['컬럼명'] = 데이터프레임['컬럼명'].replace({'데이터값': 0, '데이터값 : 1})
   
데이터 합치기
Join, merge
pd.merge( 데이터프레임, 데이터프레임, on ='컬럼명', how = 'left')
   
정렬 sort_values 데이터프레임.sort_values('컬럼명', ascending = False)

 
날짜 데이터

날짜 형식으로 변경 데이터프레임['컬럼명'] = pd.to_datetime(데이터프레임['컬럼명'])
   
연 데이터 추가 데이터프레임['Year'] = 데이터프레임['컬럼명'].dt.year
   
월 데이터 추가 데이터프레임['Month'] = 데이터프레임['컬럼명'].dt.month

 
 
단변량 분석_숫자형

평균 np.mean(데이터프레임['컬럼명'])
   
중앙값(중위수) 데이터프레임['컬럼명'].mean()
  np.median(데이터프레임['컬럼명'])
   
최빈값 데이터프레임['컬럼명'].mode()
   
기초 통계량 전체 출력 데이터프레임.describe(include='all')
   
숫자형 시각화
히스토그램
plt.hist(데이터프레임.컬럼명, bins= 갯수, edgecolor = '색상')
plt.xlabel('컬럼명')
plt.ylabel('컬럼명')

# bins 값을 통해 구간 갯수 조정
   
밀도함수
sns.kdeplot(데이터프레임['컬럼명'])
   
히스토그램 & 밀도함수 함께 표기
sns.histplot(데이터프레임['Age'], kde = True)
   
박스 플랏
plt.boxplot(데이터프레임['컬럼명'])

 

데이터 원본

 
 
단변량분석_범주형변수

범주별 빈도수 value_counts() : 범주의 개수와 상관 없이 범주별 개수를 계산

데이터프레임['컬럼명'].value_counts()
   
범주별 비율 계산(응용) 데이터프레임['컬럼명'].value_counts() / 데이터프레임.shape[0]

데이터프레임.shape 함수의 첫 번째 값이 row 값임을 활용
   
카운트 플랏 sns.countplot

sns.countplot( y='컬럼명', data= 데이터프레임)
범주값 몇 개 들어있는지 숫자 세기
sns.countplot( x='컬럼명', data= 데이터프레임)
plt.grid()
plt.show()
   
기초 통계량 계산 0과 1 데이터 데이터프레임['컬럼명'].value_counts()

데이터프레임['컬럼명'].value_counts(normalize = True)
   
시각화 - 파이차트
plt.데이터프레임(컬럼명.values, labels = 컬럼명.index, autoptc='%.2%%',
                           startangle = 90, counterclock = False,
                           explode = [0.05, 0.05, 0.05], shadow =True)

plt.show()

 

원본 데이터

 

원본 데이터

이변량_숫자 vs 숫자

시각화 산점도
sns.scatterplot( x = '컬럼명', y = '컬럼명', data = 데이터프레임 )
   
pairplot으로 한 번에 시각화
sns.pairplot( 데이터프레임, kind = 'reg' )
   
jointplot
sns.pariplot( x='컬럼명', y= ' 컬럼명', data = 데이터프레임)
   
regplot
sns.regplot(x='컬럼명', y = '컬럼명' , data = 데이터프레임)

 

원본

이변량_숫자 vs 숫자 -> 상관분석

패키지 import scipy.stats as spst
   
상관계수와 p-value 계산 코

spst.pearsonr(데이터프레임['컬럼명'], 데이터프레임['컬럼명'])
   
상관계수 구하기 데이터프레임.corr()
   
상관계수 히트맵 시각화
sns.heatplot( air.corr(),
                     annot =  True                 # 숫자(상관계수) 표기 여부
                     fmt     =  '.3f '                  # 숫자 포맷 : 소수점 3자리까지 표기
                     cmap =  'RdYlBu_r'        # 칼라맵
                     vmin = -1, vmax = 1)      # 숫자(상관계수) 표기 여부

 
평균 개념

표준오차 SE
Standard Error
표준오차는 표준편차와 다른 개념

표본을 뽑아내어 모집단을 추정

표본 평균이 모평균과 완전히 일치할 수 없으며 이 오차를 '표준오차'라 한다.
   
95% 신뢰구간
sns.hisplot( 리스트, bins = 숫자)

plt.axvline( np.mean(리스트), color = '색상' )

plt.text(np.mean(pop)=1, 30000, f' pop:mean : {np.mean(pop).round(3)}', color = 'r' )

plt.show()
   
errorbar

# 100번 샘플링
samples = {'id' : [  ], 'value' : [  ]}
for i in range(100) :
    samples['id']       += [i] * 100
    samples['value'] += rd.sample(pop, 100)

samples = pd.DataFrame(samples)
samples.shape   >>   (10000, 2) 출력


sns.pointplot ( x = 'id' , y = 'value', data = samples,  join = False)    #  join = False
                                                                                                        독립적인 점들을 연결하지 않는다.
plt.axhline(np.mean(pop), color, color = 'r')                                       # pop이 모집단
plt.show()

이변량_범주 vs 숫자

평균 비교
barplot
sns.barplot( x= ' 컬럼명', y = '컬럼명',  data = 데이터프레임 )
plt.grid()
plt.show()


sns.barplot( x='Survived', y = 'Age', data = titanic)

생존 여부에 따른 Age의 평균 비교
   
boxplot sns.boxplot( x='컬럼명', y='컬럼명', data = 데이터프레임 )

실제코드

sns.boxplot( x= 'Survived', y = 'Age', data = titanic ) 
   
NaN 결측치 제거 데이터프레임.loc [ 데이터프레임 ['컬럼명].notnull() ]
   
t-test 실제 코드

temp = titanic.loc[titanic['Age'].notnull()]

died       = temp.loc[temp['Survived'] ==0, 'Age']
survived = temp.loc[temp['Survived'] ==1, 'Age']

spst.ttest_ind(died, survived)
  실제 코드 ( 성별에 대해 시행 )

male = titanic.loc[  titanic['Sex'] =='male',  'Fare' ]
female = titanic.loc[ titanic['Sex'] =='female', 'Fare'  ]

spst.ttest_ind(male, female)
   t-test를 통해 얻은 p-value 값이 0.05 보다 크다면 두 집단 간의 평균에 큰 차이가 없다는 귀무가설을 채택한다.


예시)

t-통계량  2.067 ==> 2보다 크므로 차이가 있기는 있으나 크지는 않다.
p-value : 0.039 ==> 0.05 보다 작으므로, 차이가 있기는 하지만 크지는 않다.
   
anova

Analysis Of VAriance

여러 집단 간에 차이 비교

P_1 = temp.loc[ temp.Pclass ==1, 'Age']
P_2 = temp.loc[ temp.Pclass ==2, 'Age']
P_3 = temp.loc[ temp.Pclass ==3, 'Age']

spst.f_oneway( P_1, P_2, P_3 )

원본 데이터

이변량 범주 vs 범주

교차표

pd.crosstab(행, 열)
pd.crosstab(행, 열)

pd.crosstab( 데이터프레임['컬럼명], 데이터프레임['컬럼명'], normalize = 'coulmns')

>> normalize 옵션에는 columns, index, all 이 존재
   
시각화

mosaic
mosaic( 데이터프레임, ['컬럼명', '컬럼명']  )

실제 코드

mosaic( titanic, ['Pclass, 'Survived'] )
plt.axhline( 1- titanic['Survivde].mean(), color = 'r' )
plt.show()

모자이크에서 밑에가 사망이므로 1 -  titanic['Survived']로 한다.
   
카이제곱 검정  범주형 변주들 사이에 어떤 관계가 있는지 수치화

 spst.chi2_contingency(table)

 normalize를 하면 안된다.

 >> 두 개 이상의 범주형 변수 간에 독립성을 검정하는 데 사용한다
      따라서, 검정을 통해 변수 간의 연관성을 파악하려면 원본 교차표를 사용해야 한다.
      Normalize하면 행과 열 합이 1이 되도록 스케일을 조정한다.
      범주 간의 상대적 비율을 확인할 때는 유용하지만, 카이제곱 검정의 경우,
      범주 간의 독립성을 여부를 확인하는 것이 목적이므로 스케일 조정을 하지 않는다.


 카이제곱 검정

 귀무가설 : 두 변수 간에 독립성이 있다.  p-value가 0.05보다 클 때, 채택
 대립가설 : 두 변수 간에 독립성이 없다.  p-value가 0.05보다 작을 때, 채택


<주의>

 ttest

 귀무가설 : 두 집단 간의 평균에 유의미한 차이가 없다. p-value가 0.05보다 클 때, 채택
 대립가설 : 두 집단 간의 평균에 유의미한 차이가 있다. p-value가 0.05보다 작을 때, 채택

 

크로스탭 pd.crosstab(titanic['Survivde], titanic['Sex], normalize = 'columns')

 
 
이변량 숫자 vs 범주

숫자 --> 범주
시각화
sns.histplot( x = '숫자 컬럼', data = 데이터프레임, hue ='범주 컬럼' )
   
kdeplot 작성

sns.kdeplot( x='숫자 컬럼', data= 데이터프레임, hue = '범주 컬럼' )


sns.kdeplot( x='숫자 컬럼', data = 데이터프레임, hue = '범주컬럼', common_norm = False )


>> common_norm = True가 기본 값

common을 붙였으므로 전체에 대한 비율을 요구한다.

 

728x90
728x90

KT Aivle School 에이블스쿨 기자단] 2023.08.21 ~ 2023.08.28 미니프로젝트, 서울 공모전, 스터디 진행

이번 주의 스케줄

  • 미니프로젝트 수행
  • 서울교육공모전 마무리
  • 일요일 : 프로그래머스 스터디 진행, 서울교육공모전 회의 진행

 

이번주 후기 

 이번주는 평일부터 주말까지 힘든 하루ㅠ

 

 평일에는 Aivle School에서 기존 수업에 더해 미니프로젝트 1, 2차를 수행하고

 

 주말에는 프로그래머즈 스터디, SQL 스터디, 서울 공공데이터 활용 공모전을 진행한 스케줄..

 

 

 힘든 스케줄을 소화했지만, 반장님의 글 중에서 이 부분을 보고 힘도 나고 자존감이 올랐다

 

자존감을 채워준 소중한 반장님

 

미니 프로젝트 후기

 

 그동안의 Aivle School  수업과 미니프로젝트 1차까지는 어렵지 않다고 느껴져서 "나 좀 재능이 있을지도..??"라는 생각을 했지만 미니 프로젝트 2차를 수행한 뒤 많이 겸손해졌다

 

 

현재 약하다고 느껴졌던 부분

 

 코드 중에서 날짜 타입으로 데이터 타입을 변형하는 부분이 아직 손에 덜 익은 느낌...

 

 형광펜에  표시한 부분처럼 연습용 파일을 만들고, 빈 칸부터 다시 직접 쳐보면서 복습하는 습관 갖기!!

 

 

서울 공모전

Aivle 스쿨에서의 스킬은 다 갈아넣은 데이터 분석

 

조원을 도와주고 이런 말을 들으니 자존감이 한 번 더 올랐다!!!

 

이번주의 자존감 Up ver 2

 

 

  Aivle School을 시작하자마 "프로그래머스 문제풀이 스터디", "서울 공공데이터 활용 공모전 팀"을 만들어 현재  조장으로 이끌고 있고, "SQL 스터디"에 회원으로 가입해 이 스터디 모임들을 감당하느라 월요일부터 ~ 일요일까지 그저 컴퓨터만 바라본 한 주...

 

 

스터디

 

 반장님이 이 부부분에 관심을 갖고 우리 분반에도 스터디를 만들고 싶어하던데

 

 부디 좋은 결과 있기를... 저는 적극적인 팔로워가 될게요!~~~

 

일요일 20~21시까지 진행한 프로그래머즈 스터디

 

일요일에 21~23시까지 진행한 서울 공공데이터 활용 공모전 준비

 

 2개 스터디를 조장으로서 이끌며, 좋다고 느끼는 점은 강제로 공부하게 되는 효과가 있다는 것이다

 

 이 모임 아니었으면 주말에 그냥 쉬었을 듯

 

728x90
728x90

https://data.seoul.go.kr/dataList/543/S/2/datasetView.do

 

열린데이터광장 메인

데이터분류,데이터검색,데이터활용

data.seoul.go.kr

 

 

import numpy as np
import pandas as pd
import csv
import matplotlib.pyplot as plt

data = pd.read_csv('./csv/교원+1인당+학생수(구별)_20230820151017.csv', index_col=0)

data_re = data.rename(columns=data.iloc[0])
data_re = data_re.drop(data.index[0])
data_re
print(data_re)

school_sort = list(set(list(data_re.index)))
print("\n\n학교 종류")
print(school_sort)

blank = []

for i in school_sort:

    a = data_re[data_re.index.str.contains(i)]    
    gyo = pd.DataFrame(a.loc[:,'교원1인당학생수'])
    gyo_nu = pd.to_numeric(gyo['교원1인당학생수'])
    gyo_nu_mean = gyo_nu.mean()
    
    blank.append(gyo_nu_mean)
    
print('\n\n')
print(blank)

plt.rcParams['font.family'] ='Malgun Gothic'
plt.rcParams['axes.unicode_minus'] =False

plt.bar(school_sort, blank)
plt.show()

 

 

728x90
728x90

Pandas Profiling 활용

 

import pandas as pd
import numpy as np

import pandas_profiling

from pandas_profiling import ProfileReport

h = pd.read_csv('housing_data.csv')

h.profile_report()

 

 

원본 데이터

728x90
728x90

https://www.senbigdata.com/

 

서울교육 데이터 활용 아이디어 공모전

home keyboard_arrow_right 공고안내 description 공고안내 서울특별시교육청에서는 서울교육 데이터 활용 아이디어 발굴을 통해 공공데이터 활용을 촉진하고, 시민 누구나 교육정책에 참여하는 기회 제

www.senbigdata.com

 

공공데이터 사이트

 

공공데이터포털 데이터셋

https://www.data.go.kr/

 

서울열린데이터광장

https://data.seoul.go.kr/

 

나이스교육정보개방

https://open.neis.go.kr/portal/mainPage.do

 

나이스 교육정보 개방 포털

OPEN API 활용신청 제공되는 데이터를 활용하기 위해 인증키를 발급 받으세요. 교육정보개방 소개 <!-- 2017.10.25 kty 정부3.0제거 교육부 정부 3.0 - 교육정보 개방 포털은 어떤 시스템인지 알아보세요.

open.neis.go.kr

교육통계서비스

https://kess.kedi.re.kr/index

 

 

유치원알리미

https://e-childschoolinfo.moe.go.kr/

 

유치원 알리미

유아 · 교직원 현황, 유치원 회계 현황, 환경위생 및 안전관리 사항 등 유치원의 주요 정보

e-childschoolinfo.moe.go.kr

학교알리미

https://www.schoolinfo.go.kr/Main.do

728x90
728x90

기본 준비

import numpy as np
import pandas as pd
import os

print(os.getcwd())
print(os.listdir(os.getcwd()))
print(os.listdir('./csv'))

 

 

csv 파일들은 편의를 위해 csv 폴더에 따로 모아두기

 

 

자료

 

https://www.data.go.kr/index.do

 

https://www.data.go.kr/data/15080794/fileData.do

 

 

전체출력

import csv
f = open('./csv/school in seoul.csv')
data = csv.reader(f)

for row in data:
    print(row)

 

카테고리 확인

import csv
f = open('./csv/school in seoul.csv')
data = csv.reader(f)

for row in data:
    a=0
    print(f"* 첫째 행 구성요소 : {row}")
    print(f"* 행 길이 : {len(row)}")
    for i in row:
        print(f"{a}번째 값 : {i}")
        a+=1
    break

 

 

Pandas를 활용하여 간단하게

import csv
import pandas as pd

f = open('./csv/school in seoul.csv')
data = csv.reader(f)

df = pd.read_csv('./csv/school in seoul.csv', encoding='cp949', index_col=0)
df

df = pd.read_csv('./csv/school in seoul.csv', encoding='cp949', index_col=0)

cp949 : 한글 표현하기 위함

index_col = 0 : 불필요한 인덱스 제거 역할


index_col = 0 입력

 

 

index_col  생략

 

원하는 정보(초, 중, 고 중에서 선택)만 골라서 출력

 

df.index.str.contains() 함수를 통해 데이터 프레임의 인덱스 문자열에 원하는 문자열이 포함된 행을 찾기

import csv
import pandas as pd

f = open('./csv/school in seoul.csv')
data = csv.reader(f)

df = pd.read_csv('./csv/school in seoul.csv', encoding='cp949', index_col=0)

name = input('초등학교, 중학교, 고등학교 중에서 선택')

a = df.index.str.contains(name)

df2 = df[a]

df2

 

df.index.str.contains(name)에는 True, False 값이 배열 형태로 저장

 

"초등학교" 입력 결과

 

초, 중, 고 갯수 확인

import csv
import pandas as pd

f = open('./csv/school in seoul.csv')
data = csv.reader(f)

df = pd.read_csv('./csv/school in seoul.csv', encoding='cp949', index_col=0)

df_cho = df[df.index.str.contains("초등학교")]
df_jung = df[df.index.str.contains("중학교")]
df_go = df[df.index.str.contains("고등학교")]

print(f"전체 학교 수 : {df.shape[0]}")
print(f"초등학교 수 : {df_cho.shape[0]}")
print(f"중학교 수 : {df_jung.shape[0]}")
print(f"고등학교 수 : {df_go.shape[0]}")

 

 

행 개수, 열 개수 확인

import csv
import pandas as pd

f = open('./csv/school in seoul.csv')
data = csv.reader(f)

df = pd.read_csv('./csv/school in seoul.csv', encoding='cp949', index_col=0)
df

print(f"행 개수 : {df.shape[0]} 열 개수 : {df.shape[1]}")

 

학교 종류 확인(리스트 타입)

import csv
import pandas as pd

f = open('./csv/school in seoul.csv')
data = csv.reader(f)

df = pd.read_csv('./csv/school in seoul.csv', encoding='cp949', index_col=0)

index_info = list(set(df.index.to_list()))
print(index_info)

 

학교 종류별 갯수 

import csv
import pandas as pd

f = open('./csv/school in seoul.csv')
data = csv.reader(f)

df = pd.read_csv('./csv/school in seoul.csv', encoding='cp949', index_col=0)

index_info = list(set(df.index.to_list()))

print(f" index_info {index_info}\n\n")

a=[]

for i in index_info:
    # 정확한 일치 개수를 세는 방식으로 변경
    count = (df.index==i).sum()
    print(f"{i}: {count}")
    a.append(count)

print('\n\n',a,'\n\n')

print(sum(a),'\n\n')

 

 

(df.index==i).sum() 코드 이해

 

시각화

import matplotlib.pyplot as plt

print(index_info)

print(a)

plt.rcParams['font.family'] ='Malgun Gothic'
plt.rcParams['axes.unicode_minus'] =False

plt.bar(index_info,a)
plt.xticks(rotation=90)
plt.tick_params(axis='x', direction='in', length=3, pad=6, labelsize=8, labelcolor='black')
plt.show()

 

 

 

한글 깨짐 방지 코드

plt.rcParams['font.family'] ='Malgun Gothic'
plt.rcParams['axes.unicode_minus'] =False

 

한 번에 끝내기

import numpy as np
import pandas as pd
import os
import csv
import matplotlib.pyplot as plt


f = open('./csv/school in seoul.csv')
data = csv.reader(f)

df = pd.read_csv('./csv/school in seoul.csv', encoding='cp949', index_col=0)

kind = list(set(df.index.to_list()))
print(f"학교 종류 확인\n {kind}\n")


numbers =[]

for i in kind:
    count = (df.index==i).sum()
    print(f"{i}: {count}")
    numbers.append(count)
#     print(df)
    

print(f"\n갯수 : {numbers}")
print("총 합계 :",sum(numbers),"\n")

plt.rcParams['font.family'] ='Malgun Gothic'
plt.rcParams['axes.unicode_minus'] =False

plt.bar(kind,numbers)
plt.xticks(rotation=90)
plt.tick_params(axis='x', direction='in', length=3, pad=6, labelsize=8, labelcolor='black')
plt.show()

 

728x90
728x90

인구 구조 시각화_행정안전부 인구 데이터

라이브러리 import & 현재 파일 경로 확인은 항상 기본적으로 하기!!

import numpy as np
import pandas as pd
import os

print(os.getcwd())
print(os.listdir(os.getcwd()))

 

csv 파일은 'age.csv' 이름으로 저장, 파일 내용 확인

import csv
f = open('age.csv')
data = csv.reader(f)

for row in data:
    print(row)

 

특정 데이터만 확인

import csv
f = open('age.csv')
data = csv.reader(f)
for row in data:
    if '신도림' in row[0]:
        print(row)

 

728x90

+ Recent posts