Commit Graph

243 Commits

Author SHA1 Message Date
admin
1ea6d6fd29 버즈량 계산시 days 옵션의 from, to 파라미터 고려
git-svn-id: svn://192.168.0.12/source@243 8346c931-da38-4b9b-9d4c-e48b93cbd075
2016-01-19 07:14:59 +00:00
admin
7b9bddc989 setup.ini 기능추가
[days]
from=####-##-## (시작 날짜 설정)
to=####-##-## (종료 날짜 설정

git-svn-id: svn://192.168.0.12/source@242 8346c931-da38-4b9b-9d4c-e48b93cbd075
2016-01-19 06:53:10 +00:00
admin
21b11500bd selenium, beautifulsoup4로 구현한 python 크롤러
git-svn-id: svn://192.168.0.12/source@241 8346c931-da38-4b9b-9d4c-e48b93cbd075
2016-01-19 06:52:00 +00:00
admin
73ede17add blog 크롤링 안되는 부분 추가
git-svn-id: svn://192.168.0.12/source@240 8346c931-da38-4b9b-9d4c-e48b93cbd075
2016-01-19 06:48:49 +00:00
admin
f25230c652 facebook 추가
timeout시 재접속 할수 있도록 수정

git-svn-id: svn://192.168.0.12/source@239 8346c931-da38-4b9b-9d4c-e48b93cbd075
2016-01-19 06:47:32 +00:00
admin
ef669df7ad 키워드 삽입시 기간 자동분할 기능
크롤링 삽입시 키워드 다중선택 기능 

git-svn-id: svn://192.168.0.12/source@238 8346c931-da38-4b9b-9d4c-e48b93cbd075
2016-01-14 07:17:35 +00:00
admin
7994b43baa 네이버 블로그 smart 3.0 관련 수정
git-svn-id: svn://192.168.0.12/source@237 8346c931-da38-4b9b-9d4c-e48b93cbd075
2015-12-31 04:41:04 +00:00
admin
c4a3ace018 블로그 smart 3.0 업데이트 ㅎㄷㄷㄷ
git-svn-id: svn://192.168.0.12/source@236 8346c931-da38-4b9b-9d4c-e48b93cbd075
2015-12-31 04:39:43 +00:00
admin
f192ec56f2 naver news Entertainment 수정
git-svn-id: svn://192.168.0.12/source@235 8346c931-da38-4b9b-9d4c-e48b93cbd075
2015-12-28 09:53:27 +00:00
admin
bfd8f7dd67 카카오, 인스타, 네이버 카페 추가
git-svn-id: svn://192.168.0.12/source@234 8346c931-da38-4b9b-9d4c-e48b93cbd075
2015-12-24 06:49:44 +00:00
admin
11ce135261 kakao 추가
instagram 추가

git-svn-id: svn://192.168.0.12/source@233 8346c931-da38-4b9b-9d4c-e48b93cbd075
2015-12-24 06:45:53 +00:00
admin
57d596d083 git-svn-id: svn://192.168.0.12/source@232 8346c931-da38-4b9b-9d4c-e48b93cbd075 2015-12-24 06:43:21 +00:00
admin
6b3521002a 네이버 뉴스 수정
네이버 블로그 본문 수정

git-svn-id: svn://192.168.0.12/source@231 8346c931-da38-4b9b-9d4c-e48b93cbd075
2015-12-24 01:39:40 +00:00
admin
820fa031e2 naver news 수정
git-svn-id: svn://192.168.0.12/source@230 8346c931-da38-4b9b-9d4c-e48b93cbd075
2015-12-24 01:39:18 +00:00
admin
cc8122e074 WebBasedCrawler 추가
git-svn-id: svn://192.168.0.12/source@229 8346c931-da38-4b9b-9d4c-e48b93cbd075
2015-12-07 03:25:49 +00:00
admin
29a09e3307 git-svn-id: svn://192.168.0.12/source@228 8346c931-da38-4b9b-9d4c-e48b93cbd075 2015-12-07 03:23:40 +00:00
admin
47e2d27ba2 kakao 추가
git-svn-id: svn://192.168.0.12/source@227 8346c931-da38-4b9b-9d4c-e48b93cbd075
2015-12-07 03:23:26 +00:00
admin
9a9d674a11 kakao 추가
git-svn-id: svn://192.168.0.12/source@226 8346c931-da38-4b9b-9d4c-e48b93cbd075
2015-12-07 03:23:07 +00:00
admin
c9b96a76a5 navercrawl 종료방법 변경
git-svn-id: svn://192.168.0.12/source@225 8346c931-da38-4b9b-9d4c-e48b93cbd075
2015-11-20 10:09:06 +00:00
admin
2eb2d91f76 NaverCafeListManager 추가
네이버카페리스트 관리

git-svn-id: svn://192.168.0.12/source@224 8346c931-da38-4b9b-9d4c-e48b93cbd075
2015-11-11 06:52:37 +00:00
admin
499550b2c1 NaverCafeList 추가
git-svn-id: svn://192.168.0.12/source@223 8346c931-da38-4b9b-9d4c-e48b93cbd075
2015-11-11 06:51:31 +00:00
admin
c12705430c NaverCafeListManager 추가
git-svn-id: svn://192.168.0.12/source@222 8346c931-da38-4b9b-9d4c-e48b93cbd075
2015-11-11 06:51:11 +00:00
admin
65767c20cc blog 크롤러 무한 리로드 버그 수정
git-svn-id: svn://192.168.0.12/source@221 8346c931-da38-4b9b-9d4c-e48b93cbd075
2015-11-09 10:22:06 +00:00
admin
119b947108 에러 발생시 로그 저장
git-svn-id: svn://192.168.0.12/source@220 8346c931-da38-4b9b-9d4c-e48b93cbd075
2015-11-02 03:27:12 +00:00
admin
1d55d53e04 크롤러리스트 start() 시 dbopen 체크
git-svn-id: svn://192.168.0.12/source@219 8346c931-da38-4b9b-9d4c-e48b93cbd075
2015-11-02 02:17:19 +00:00
admin
d48ec1fbcb navernews 댓글 가져오기 수정
json형식 뒤에 이상한 문자들이 붙어있어서 오류를 일으킴

git-svn-id: svn://192.168.0.12/source@218 8346c931-da38-4b9b-9d4c-e48b93cbd075
2015-10-29 02:07:35 +00:00
admin
b297d693d7 네이버 블로그 크롤링 오류시 timer를 통해 webpage 읽어오도록 수정
git-svn-id: svn://192.168.0.12/source@217 8346c931-da38-4b9b-9d4c-e48b93cbd075
2015-10-28 08:15:34 +00:00
admin
ec55f45ce4 리눅스에서 Process 들이 ./로 실행되도록 수정
실시간 크롤러에서 오늘날짜 +1이 되는 오류 수정
crawlerfinish 이후 db가 끊기면 재시도 하지 않는 버그 수정(테스트 꾸준히 해봐야함)


git-svn-id: svn://192.168.0.12/source@216 8346c931-da38-4b9b-9d4c-e48b93cbd075
2015-10-28 08:13:59 +00:00
admin
0311c2abfc daum cafe 댓글 아이디 크롤링 오류 수정
git-svn-id: svn://192.168.0.12/source@215 8346c931-da38-4b9b-9d4c-e48b93cbd075
2015-10-28 08:10:55 +00:00
admin
c42d1c3d20 blog_list 에서 url 가져오는 방식 변경
git-svn-id: svn://192.168.0.12/source@214 8346c931-da38-4b9b-9d4c-e48b93cbd075
2015-10-22 04:29:21 +00:00
admin
980f597433 백업
git-svn-id: svn://192.168.0.12/source@213 8346c931-da38-4b9b-9d4c-e48b93cbd075
2015-10-21 01:34:24 +00:00
admin
12b209ee7c 헤더 대소문자 수정
git-svn-id: svn://192.168.0.12/source@212 8346c931-da38-4b9b-9d4c-e48b93cbd075
2015-10-15 06:29:03 +00:00
admin
28149181d5 header 수정
git-svn-id: svn://192.168.0.12/source@211 8346c931-da38-4b9b-9d4c-e48b93cbd075
2015-10-15 06:24:52 +00:00
admin
4136991edc ymtwodepthawidget 추가
git-svn-id: svn://192.168.0.12/source@210 8346c931-da38-4b9b-9d4c-e48b93cbd075
2015-10-15 06:20:45 +00:00
admin
cf56b35cd6 헤더 대소문자 수정
git-svn-id: svn://192.168.0.12/source@209 8346c931-da38-4b9b-9d4c-e48b93cbd075
2015-10-14 04:17:30 +00:00
admin
53df8b98a2 헤더 대소문자 수정
git-svn-id: svn://192.168.0.12/source@208 8346c931-da38-4b9b-9d4c-e48b93cbd075
2015-10-14 03:07:18 +00:00
admin
0d21a9fafb header 대소문자 수정
git-svn-id: svn://192.168.0.12/source@207 8346c931-da38-4b9b-9d4c-e48b93cbd075
2015-10-14 03:05:49 +00:00
admin
33517be7eb webkit 추가
git-svn-id: svn://192.168.0.12/source@206 8346c931-da38-4b9b-9d4c-e48b93cbd075
2015-10-14 03:04:06 +00:00
admin
0a024987c5 git-svn-id: svn://192.168.0.12/source@205 8346c931-da38-4b9b-9d4c-e48b93cbd075 2015-10-14 03:01:25 +00:00
admin
2bf914a534 delete from -> truncate 로 변경 if possible
git-svn-id: svn://192.168.0.12/source@204 8346c931-da38-4b9b-9d4c-e48b93cbd075
2015-10-13 09:18:44 +00:00
admin
642843f754 Timer 추가
git-svn-id: svn://192.168.0.12/source@203 8346c931-da38-4b9b-9d4c-e48b93cbd075
2015-10-13 09:18:11 +00:00
admin
bbafe240f3 git-svn-id: svn://192.168.0.12/source@202 8346c931-da38-4b9b-9d4c-e48b93cbd075 2015-09-30 01:18:55 +00:00
admin
345cb977b0 git-svn-id: svn://192.168.0.12/source@201 8346c931-da38-4b9b-9d4c-e48b93cbd075 2015-09-30 01:18:04 +00:00
admin
e406b6155d git-svn-id: svn://192.168.0.12/source@200 8346c931-da38-4b9b-9d4c-e48b93cbd075 2015-09-30 01:17:46 +00:00
admin
c45bb0afdc git-svn-id: svn://192.168.0.12/source@199 8346c931-da38-4b9b-9d4c-e48b93cbd075 2015-09-30 01:14:01 +00:00
admin
e80fbc0456 git-svn-id: svn://192.168.0.12/source@198 8346c931-da38-4b9b-9d4c-e48b93cbd075 2015-09-25 03:02:25 +00:00
admin
6bda921791 git-svn-id: svn://192.168.0.12/source@197 8346c931-da38-4b9b-9d4c-e48b93cbd075 2015-09-25 02:59:24 +00:00
admin
1595ce6eaf git-svn-id: svn://192.168.0.12/source@196 8346c931-da38-4b9b-9d4c-e48b93cbd075 2015-09-25 02:58:37 +00:00
admin
7961401b3d 숫자 인식 추가
git-svn-id: svn://192.168.0.12/source@195 8346c931-da38-4b9b-9d4c-e48b93cbd075
2015-09-24 04:13:52 +00:00
admin
0237784497 소트 와 1변수 카운트 추가
git-svn-id: svn://192.168.0.12/source@194 8346c931-da38-4b9b-9d4c-e48b93cbd075
2015-09-24 04:13:02 +00:00