본문 바로가기

분류 전체보기196

파이썬 크롤러) AttributeError: 'NoneType' object has no attribute 'find_all' #1. AttributeError는 무슨 에러인가? 웹페이지에 있는 테이블의 컨텐츠를 긁어오기 위한 크롤러를 만들고, 그 코드를 실행시키고, table 객체에 값을 열심히 쌓아놓고, 해당 table에서 특정 단어를 가지는 데이터를 find_all로 검색하려던 참이었다. 이제 뭔가 크롤링된 값이 뜰 때가 됐는데 웬걸, 갑자기 에러가 발생했다. 에러의 이름은 AttributeError였다. 일단 이게 무슨 뜻인지 잘 와닿지가 않아서 사전을 찾아보았다. 사전에서 여러가지 Attribute 명사형의 뜻들을 살펴보니 게 중에 제일 연관성 있어 보이는 뜻은 속성, 딸린 물건이라는 뜻이었다. 속성값에 문제가 있는 것일까? 파이썬 코딩 중에 에러가 나면 가장 마지막 줄을 보면 된다고 했기에, 에러 코드를 좀 더 상세히.. 2018. 12. 12.
파이썬 크롤러) 파이썬에서 Selenium으로 자동 로그인 하기 (xpath 사용법) 이 기록은 내가 까먹지 않기 위해서...그리고 혹시나 다른 분들에게 도움이 되었으면 하는 마음으로 적어둠 :D 1. Selenium 설치 등 import는 된 상태에서 2. 로그인 하려고 하는 홈페이지로 들어가 크롬 개발자 도구를 Open ! 3. 로그인 정보 입력 후, 로그인 버튼 누르기를 위한 코드를 짜는데서 저는 좀 헤맸음.. driver.find_element_by_xpath("""//*[@id="form-main"]/div[4]/button""").click() 4. 위에서 """ 와 """ 사이에 들어가는 코드를 찾는 방법은? 1) 크롬 개발자 도구에서 화살표 버튼을 눌러서 로그인하는 버튼을 누른다. 2)그럼, 그 버튼 실행과 관련된 코드 부분들이 파란색으로 블록 처리가 됨. 3) 그 부분에서.. 2018. 12. 7.
번외) pip버전 업그레이드하기 (pip version upgrade, upgrade pip) Pip라는 프로그램을 쓰면, Selenium, BeautifulSoup 등 라이브러리 설치가 훨씬 손쉬워진다. 다운로드 받고, 그 경로로 들어가 실행시키고 할 필요가 없이 간단한 pip 명령어만 치면 되니까 ! 일단 MAC에는 기본적으로 pip가 깔려있다고 하는데 지난번에 BeautifulSoup 라이브러리를 설치하려고 보니, 자꾸 업그레이드를 하라고 뜬다. You are using pip version 8.1.2, however version 18.1 is available. You should consider upgrading via the 'pip install --upgrade pip' command. 이런 창이 자꾸 뜬다면, 하기와 같이 명령어를 치면 된다. 비밀번호를 치라하면 비밀번호를 치고 .. 2018. 11. 13.
파이썬 크롤러) 파이썬3에서 Selenium 설치하기 (+웹페이지 상에 정보가 다 긁어지지 않을때) 어찌어찌 해서 초보적인 실력으로 웹페이지의 일부 정보를 긁어올 수 있게 되었다.하지만, 어째 긁어 들어오는 정보가 시원찮다. 정작 내가 원하는 컨텐츠들은 다 긁어지지 않고, 상위 단 제목? 같은 -쓸데없는- 내용만 들어오는 것이 아닌가ㅠ 수소문 끝에 Selenium이라는 프레임 워크를 사용하면 이러한 문제를 해결할 수 있다는 것을 알게 되었다. #1. Selenium 설치하는 법! 1) https://pypi.org/project/selenium/#files 에서 Selenium을 다운로드 및 압축 해제 한다. selenium-3.141.0.tar.gz 2) 터미널을 통해 해당 파일이 있는 경로로 가서 명령어를 친다. sudo python3 setup.py install ※ 명령어 중 sudo를 빼먹고 .. 2018. 11. 13.
번외) Mac에서 관리자 권한 설정 (프로그램을 깔려는데 권한이 없어서 안 깔아질때) #1. Mac의 계정들은 각각 권한이 다르다 지난 번 파이썬3를 컴퓨터에 깔다가 알게 된 것인데, Mac에서 생성한 여러 계정들은 각각의 권한이 달라서 어떤 계정에서는 특정 프로그램을 설치할 수가 없다는 것이다. 어떤 계정은 Super계정으로 프로그램을 설치하고 삭제하고가 모두 가능한데, 어떤 계정은 그런 기능이 제한되어 있다. #2. 나의 계정의 권한을 업그레이드 하고 싶다 처음 Mac을 샀을 때 최초로 계정을 등록한 남편의 계정이 Super계정이고, 그 이후에 추가한 내 계정이 게스트 계정으로 등록되어 있던 것 같다. 그 때문에, 터미널에서 파이썬 프로그램을 설치할 때 권한이 없다고 설치가 계속 안 되었다. 그래서 이번에 터미널에서 프로그램을 깔지 못하는 나의 계정을 업그레이드 시켜보았다. 상세 내용.. 2018. 11. 12.