다운로드 및 회원가입
무료$5무료 쿠폰
시작하기 주요기술

【스마트 모드】【순서도 모드】Webhook 사용 방법 | 웹 스크래핑 툴 | ScrapeStorm

2023-03-16 16:18:53
7254 차

개요:이 튜토리얼에서는 Webhook 사용 방법에 대해 보여줍니다. ScrapeStorm무료 다운로드

ScrapeStorm은 웹훅을 지원합니다. 이 기능을 사용하면 스크래핑된 데이터를 HTTP/HTTPS URL로 내보낼 수 있습니다.
이 기능은 다음과 같이 실행창에서 설정할 수 있습니다.

此图片的alt属性为空;文件名为webhook-1500x812.png

Webhook 기능이 유효하게 되면 스크래핑 된 데이터는 JSON 형식으로 전송됩니다. 또한 작업이 완료되면 웹훅을 통해 알림이 갑니다.

HTTP 헤더는: "Content-Type: application/json; charset=utf-8".

데이터 전송 예시:

{
    "task_id": 3920415, // Scraping task ID, find it by "View All Tasks"
    "task_name": "Scraping task name", // Scraping task name
    "type": "data", //This is a webhook of scraped data
    "urls": [ //The entries of the scraping task
        "http://www.*****.com/list",
        "http://www.*****.com/list2"
    ],
    "sign": "**********************", // md5(webhook_token+timestamp)
    "timestamp": 1555326657, // current timestamp
    "data_list": [ // Scrape data list
        {
            "_id": "0000000000001", // data ID
            "data": {
                "title": "Landscape",
                "url": "http://www.*****.com/scenery/"
            } // Scrape data field content
        }
    ]
}

종료 알림 예시:

{
    "task_id": 3920415, // Scraping task ID, find it by "View All Tasks"
    "task_name": "Scraping task name", // Scraping task name
    "type": "finish", //This is a webhook of finish notification
    "urls": [ //The entries of the scraping task
        "http://www.*****.com/list",
        "http://www.*****.com/list2"
    ],
    "sign": "**********************", // md5(webhook_token+timestamp)
    "timestamp": 1555326657 // current timestamp
}
사진 대량 다운로드 파이썬 크롤러 정기적으로 일치하는 이메일 주소 페이지를 word로 다운로드 URL 대량 생성 페이지의 키워드를 추출하기 파이썬 스크래핑 동영상 대량 다운로드 파이썬 다운로드 파일 php크롤러
关闭