일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | 5 | ||
6 | 7 | 8 | 9 | 10 | 11 | 12 |
13 | 14 | 15 | 16 | 17 | 18 | 19 |
20 | 21 | 22 | 23 | 24 | 25 | 26 |
27 | 28 | 29 | 30 |
- 삭제이상
- 글작성
- 티스토리 블로그
- Python
- 정적세그먼트
- 프로세스 메모리 영역
- 티스토리
- 데이터 사전
- 클라우드
- 동적세그먼트
- 플러그인 사용법
- 에이쁠 기자단
- 이진탐색트리
- 세그멘테이션
- 다음 이메일
- 에이블스쿨
- Colab
- 메모리캐시
- 이전 발행 글 넣기
- 블로그
- colaboratory
- 리버스 프록시
- 카카오 이메일
- 다음 계정
- 코랩
- 삽입이상
- 갱신이상
- google colab
- 카카오톡 이메일
- 포워드 프록시
- Today
- Total
목록Develop/Error Correction (3)
imort 박뉴프
보호되어 있는 글입니다.
1) 설정 파일 nginx.conf server { listen 80; server_name hello.userinsight.co.kr; location /robots.txt { return 200 "User-agent: *\nDisallow: /"; } location / { proxy_pass http://localhost:0000/; proxy_something... } } 2) 설정 파일 robot.txt 아래와 같은 컨피그를 nginx-app.conf에 넣고 도커화를 할때에, 적용만 해주면 된다. location /robots.txt { return 200 "User-agent: *\nDisallow: /"; } 팁으로 Django app 레벨에서, 해주는 경우도 있다. (파이서닉한 방법이다.)..

BeautifulSoup을 이용해 웹사이트 크롤링을 했을 때, 다음과 같이 HTTP 403 오류가 뜬다면 아래의 코드를 입력해서 해결할 수 있다. url = "www.example.com" requests.get(url, headers={ "User-Agent": "Mozilla/5.0" }) 🔍 블로그 https://parkmj236.tistory.com 🔍 Notion 이력서 https://branch-frog-b20.notion.site/Park-Minji-e4fa8aa44b8c48b582a9082515dbc15e 🔍 Github https://github.com/Park-New-project/Projects 참고