[Puppeteer] evaluate() 함수에 변수 전달하기[Puppeteer] evaluate() 함수에 변수 전달하기

Posted at 2019.09.30 19:49 | Posted in Node.js/Puppeteer




참고 : https://code-examples.net/ko/q/2bf409f






■ evaluate( ) 함수에 변수 전달하기




이전 [Puppeteer] 퍼펫티어를 이용한 CRAWLING 작업 포스팅에서


티스토리 로그인을 하는 예제를 조금 수정하여 작업을 진행한다.


해당 포스팅에서는 자바스크립트의 코드를 사용 할 수 있게 해주는


evaluate( ) 함수가 존재하고,


해당 evaluate( ) 함수에 변수값을 사용하는데 있어 아래와 같이 사용 한 경우 에러가 발생하였다.



 puppeteer_evaluate.js

const puppeteer = require("puppeteer");

// 사용시 인위적인 딜레이를 주기위한 함수
function delay( timeout ) {
return new Promise(( resolve ) => {
setTimeout( resolve, timeout );
});
}

puppeteer.launch( { headless : true } ).then(async browser => {

const page = await browser.newPage();
await page.goto( "http://magic.wickedmiso.com/manage/", { waitUntil : "networkidle2" } );

let magicId = "tistoryId";      // 티스토리 아이디
let magicPw = "tistoryPw";    // 티스토리 패스워드

await page.evaluate(() => {
        document.getElementById( "loginId" ).value = magicId;
        document.getElementById( "loginPw" ).value = magicPw;
});

await delay(3000);


        // 로그인 SUBMIT 기능

const elementHandle = await page.waitFor( "input" );

await elementHandle.press( "Enter" );

await delay(5000);

        /* 로그인이후 방문 기록 데이터를 콘솔에 띄워본다. */

const emToDay = await page.waitFor( "div.box_blog > dl.count_visitor:nth-child(1) > dd" );

        const txtToDay = await page.evaluate( emToDay => emToDay.textContent, emToDay );

        console.log("-. 오늘 방문자 수", txtToDay);

    

const emYesterDay = await page.waitFor( "div.box_blog > dl.count_visitor:nth-child(2) > dd" );

        const txtYesterDay = await page.evaluate( emYesterDay => emYesterDay.textContent, emYesterDay );

        console.log("-. 어제 방문자 수", txtYesterDay);


const emCumulativ = await page.waitFor( "div.box_blog > dl.count_visitor:nth-child(3) > dd" );

        const txtCumulativ = await page.evaluateemCumulativ => emCumulativ.textContentemCumulativ );

        console.log("-. 누적 방문자 수", txtCumulativ);


});



# 에러 출력





evaluate( ) 함수 이기 때문에 해당 함수내에 값을 전달할려면


다른 함수들과 마찬가지로 전달할 값을 오버라이딩 해서 매개변수값을 전달해 주어야 한다.



 puppeteer_evaluate.js

const puppeteer = require("puppeteer");

// 사용시 인위적인 딜레이를 주기위한 함수
function delay( timeout ) {
return new Promise(( resolve ) => {
setTimeout( resolve, timeout );
});
}

puppeteer.launch( { headless : false } ).then(async browser => {

const page = await browser.newPage();
await page.goto( "http://magic.wickedmiso.com/manage/", { waitUntil : "networkidle2" } );

let magicId = "tistoryId";      // 티스토리 아이디
let magicPw = "tistoryPw";    // 티스토리 패스워드
       

        // 함수내에 매개변수를 지정해준다.

     await page.evaluate(( { magicId, magicPw } ) => {
        document.getElementById( "loginId" ).value = magicId;
        document.getElementById( "loginPw" ).value = magicPw;
// document.getElementsByClassName( "btn_login" ).disabled = false;
}, { magicId, magicPw } );


await delay(3000);


        // 로그인 SUBMIT 기능

const elementHandle = await page.waitFor( "input" );

await elementHandle.press( "Enter" );

await delay(5000);

        /* 로그인이후 방문 기록 데이터를 콘솔에 띄워본다. */

const emToDay = await page.waitFor( "div.box_blog > dl.count_visitor:nth-child(1) > dd" );

        const txtToDay = await page.evaluate( emToDay => emToDay.textContent, emToDay );

        console.log("-. 오늘 방문자 수", txtToDay);

    

const emYesterDay = await page.waitFor( "div.box_blog > dl.count_visitor:nth-child(2) > dd" );

        const txtYesterDay = await page.evaluate( emYesterDay => emYesterDay.textContent, emYesterDay );

        console.log("-. 어제 방문자 수", txtYesterDay);


const emCumulativ = await page.waitFor( "div.box_blog > dl.count_visitor:nth-child(3) > dd" );

        const txtCumulativ = await page.evaluateemCumulativ => emCumulativ.textContentemCumulativ );

        console.log("-. 누적 방문자 수", txtCumulativ);


});



위 코드를 실행시켜보면.


이제 위와 같은 에러가 나타나지 않는것을 확인 할 수 있다.


출력결과는 아래와 같다.




# 실행 결과



다시한번 evaluate( )는 함수임을 기억하자.










# 참고




티스토리의 아이디, 패스워드 입력창의 경우


키보드 입력으로 판단되지 않았기 때문에.


로그인 버튼이 활성화 되지 않은 것을 확인 되었다.


이때는 Puppeteer의 키보드 입력과 같은 이벤트를 발생시켜서 처리할 수 있게끔 작업을 진행해 주어야 한다.






Name __

Password __

Link (Your Website)

Comment

SECRET | 비밀글로 남기기

[Puppeteer] Puppeteer와 Cheerio를 활용한 데이터 스크랩핑[Puppeteer] Puppeteer와 Cheerio를 활용한 데이터 스크랩핑

Posted at 2019.06.20 21:10 | Posted in Node.js/Puppeteer




■ 퍼펫티어를 이용한 유튜브 채널 스크랩핑




유튜브 API가 제대로 동작하지 않게 되었다.


cheerio-httpcli 모듈로 YouTube 페이지의 데이터를 스크래핑 하려 해보았지만.


유튜브의 경우 cheerio-httpcli를 통한 단순한 데이터 스크랩핑을 해보니


많은 수의 json형태의 데이터를 가져오기에


포기하던 차에 puppeteer를 활용해 보기로 했고


결과는 어느정도 만족할 수 있는 수준이었다.






위와 같이 유튜브 특정 채널의 업로드 영상을 가져와 보려고 한다.




# 소스코드

 puppeteer_ra_om_musiq.js

const puppeteer = require( "puppeteer" );

const cheerio = require( "cheerio" );


puppeteer.launch( { headless : true } ).then(async browser => {


const page = await browser.newPage();

await page.goto( "https://www.youtube.com/user/RaOmMusiq/videos/", { waitUntil : "networkidle2" } );

        // YouTube 페이지의 <ytd-grid-renderer> 태그 안의 내용을 가져온다.

const html = await page.$eval( "ytd-grid-renderer", e => e.outerHTML );


        // console.log(html);


const datacheerio.loadhtml );

data( "a.ytd-grid-video-renderer" ).each( function( key, val ) {


               // substring을 사용하여 불필요한 값을 잘라낸다. 

var videoId = data( val ).attr( "href" ).substring( 9, 20 );

var videoTitle = data( val ).text();

console.log( "VIDEO ID = ", videoId );

console.log( "VIDEO TITLE = ", videoTitle );

});

});





# 출력결과




위와같이 필요로 하는 YouTube 영상의 아이디 값 타이틀 제목을 얻어오는 모습을 확인 할 수 있다.






Name __

Password __

Link (Your Website)

Comment

SECRET | 비밀글로 남기기

[Puppeteer] 페이지 클릭 및 입력 이벤트[Puppeteer] 페이지 클릭 및 입력 이벤트

Posted at 2019.05.10 18:31 | Posted in Node.js/Puppeteer





■ 페이지의 특정 영역 클릭 이벤트




퍼펫티어에서 클릭 이벤트는 해당 앨리먼트를 셀렉터 값을 설정하고 click( ) 메서드로 실행시키기만 하면 된다.



# 소스 코드

 tommorrow_weather.js

const puppeteer = require( "puppeteer" );


puppeteer.launch({

headless : false

}).then(async browser => {


const page = await browser.newPage();

await page.goto( "https://weather.naver.com/", { waitUntil : "networkidle2" } );


page.waitForNavigation( ), // 해당 페이지의 탐색이 완료되면 클릭 이벤트를 실행

page.click( "div.weather_info > div.w_map > ul.tab > li:nth-child(4) > a" ); // 클릭이벤트를 실행

});




# 출력 결과

 $ node tomorrow_weather.js 









■ 페이지의 특정 영역에 값 입력 하기




#01. input 박스에 값 입력하기



위 예제에서는 click( 앨리먼트 ) 를 지정하여 손쉽게 클릭 이벤트를 진행 할 수 있었다.


입력도 이와 마찬기자로 type( ) 메서드에 앨리먼트의 셀렉터 주소와 입력 값을 지정해 주는것으로 손쉽게 진행할 수 있다.




# 소스 코드

 twitter_login.js

const puppeteer = require( "puppeteer" );


puppeteer.launch({

headless : false

}).then(async browser => {


const page = await browser.newPage();

await page.goto("https://twitter.com/login?lang=ko", { waitUntil : "networkidle2" } );

// 트위터 아이디 값 입력

await page.type( "div.clearfix:nth-child(2) > input", "트위터 아이디" );

// 트위터 패스워드 패스워드 값 입력

await page.type( "div.clearfix:nth-child(3)> input", "트위터 패스워드" );

// 트위터 로그인 버튼 클릭

await page.click( "button.submit" );

});




# 출력 결과

 $ node twitter_login.js







#02. 키보드로 직접 입력하는것과 같은 이벤트


이전에 page.type(엘리먼트, 입력값)과 같은 형태로 input 타입에 값을 입력 할 수 있었다.


그렇지만 직접 키보드를 입력해야 하는 것과 같은 자연스러운 입력이 필요한 경우가 존재하기에 추가적으로 작업을 더 해보려고 한다.



# 소스 코드

 facebook_login.js

const puppeteer = require( "puppeteer" );


puppeteer.launch({

headless : false

}).then(async browser => {


const page = await browser.newPage();

await page.goto( "https://www.facebook.com/", { waitUntil : "networkidle2" } );

// 페이지가 전부 로드된 이후 작업 실행

await page.waitForNavigation( );

// 페이스북 이메일 입력 부분 클릭

await page.click( "input#email" );

// 페이스북 아이디를 키보드로 입력한다.

await page.keyboard.type( "페이스북 이메일 주소" );

// TAB 버튼을 클릭하여 바로 옆에있는 패스워드 입력 영역으로 커서를 이동시킨다.

await page.keyboard.press( "Tab" );

// 페이스북 패스워드를 키보드로 입력한다.

// 이때 자연스러운 입력을 버튼을 하나씩 입력할때마다  DELAY를 통한 시간차가 있게끔 설정한다.

await page.keyboard.type( "페이스북 패스워드", { delay : 100 } ); // 시간은 밀리세컨드(ms) 단위로 계산된다.

// TAB 버튼을 클릭하여 좌측에 존재하는 로그인 버튼이 선택되게 한다.

await page.keyboard.press( "Tab" );

// ENTER 키를 클릭하여 로그인한다.

await page.keyboard.press( "Enter" );

});





# 출력 결과

 $ node facebook_login.js






위와같이 트위터와 페이스북에 손쉽게 로그인 할 수 있었다.


그렇지만 보안이 중요한 사이트의 경우 키보드의 물리 입력을 감지하거나 하는 형식으로


작업을 진행하는 경우가 존재하는데, 이 경우 위와같은 입력 및 클릭방법은 전혀 도움이 되지 못한다.


그러한 경우는 아래 글을 참고하자.








■ 키보드 보안을 우회하기 위한 방법




원문 : https://2cpu.co.kr/bbs/board.php?bo_table=QnA&wr_id=591362












Name __

Password __

Link (Your Website)

Comment

SECRET | 비밀글로 남기기

[Puppeteer] 퍼펫티어에서 크롬 확장프로그램 사용하기[Puppeteer] 퍼펫티어에서 크롬 확장프로그램 사용하기

Posted at 2019.04.30 16:59 | Posted in Node.js/Puppeteer




이전글: [Puppeteer] 퍼펫티어의 브라우저를 크롬으로 변경하기





필자는 프로젝트에서 사용할 크롤링 프로그램의 개발중 퍼펫티어에 대해서 알게 되었다.


개중 롬 확장프로그램을 통한 인증이 꼭 필요한 부분이 존재하였고.


이것때문에 많은 고생을 하였기에, 해당 포스팅을 찾아오신 분들은 그 부분을 손쉽게 넘어갈 수 있기를 바라는 마음에


퍼펫티어에서 롬 확장프로그램을 사용할 수 있는 방법을 정리하였다.







■ 크롬 확장프로그램의 설치 경로





크롬 웹스토어(https://chrome.google.com/webstore/category/extensions?hl=ko)에서 다운받은 크롬 확장프로그램들은


크롬에 로그인을 하지 않았을 경우를 기준으로


확장 프로그램은 Windows 10의 경우


C:\Users\사용자 폴더\AppData\Local\Google\Chrome\User Data\Default\Extensions\Default 경로에 설치된다.



맥(Mac OS X) or 리눅스(LINUX)등 다른 OS의 사용은 https://chromium.googlesource.com/chromium/src/+/master/docs/user_data_dir.md에서 확인할 수 있다.







위와같이 크롬 웹스토어에서 확장 프로그램을 한가지 설치해 보자.


이때 위 이미지처럼 자신의 크롬이 로그인된 상태인지 그렇지 않은지를 잘 확인해 둘 필요가 있다.


기본적으로 로그인을 하지 않은 상태라면 Default 폴더에 설치되지만


로그인을 한 사용자의 경우에는 Profile 임의로 주어지는 숫자 폴더에 설치되어 있을 것이다.









크롬 확장프로그램을 설치완료하고 설치된 폴더로 이동해 보자.









자신이 설치한 프로그램의 파일명을 확인하고 그안의 버전정보 까지의 경로가


이번 크롬 확장 프로그램까지 같이 샐행하는데 필요한 부분이다.
















■ 퍼펫티어에서 크롬 확장프로그램을 사용하기





이제 퍼펫티어를 이용하여 크롬 확장 프로그램을 사용해 보려 한다.


그렇지만 브라우저는 꼭 크롬을 사용할 필요는 없다.


크롬 확장프로그램의 사용이 가능한 크로미엄을 기반으로 하는 브라우저라고 하면


확장프로그램의 설치경로를 지정해 주는것만으로도 사용이 가능하기에


아래 예제는 기본 설치 모듈의 크로미움을 사용하였다.





# 소스 코드

 puppeteer_extensions.js

const puppeteer = require("puppeteer");


puppeteer.launch({

  headless : false


  // 크롬 확장프로그램의 정확하 설치경로만 알고 있다면

  // executablePath을 이용하여 꼭 크롬을 사용할 필요는 없다.

  // , executablePath : "C:/Program Files (x86)/Google/Chrome/Application/chrome.exe"


          // 크롬 확장프로그램을 한개 이상 사용하는경우 콤마( , )로 각 프로그램을 구분하여 작성하여 준다.

, args : [

  "--disable-extensions-except=C:/첫번째 크롬 확장프로그램 설치경로/,C:/두번째 크롬 확장프로그램 설치경로/"

, "--load-extension=C:/첫번째 크롬 확장프로그램 설치경로/,C:/두번째 크롬 확장프로그램 설치경로/"

]

}).then(async browser => {

const page = await browser.newPage();

await page.goto("https://www.naver.com/", { waitUntil : "networkidle2" } );

});





크롬 확장프로그램을 한개 이상 실행하게 될 경우


콤마( , )를 구분자로 사용하여 이어서 경로를 작성해 주면 함께 사용할 수 있다.





# 출력 결과




위 출력결과와 같이 설치한 크롬 확장 프로그램이 잘 나타나는 것을 확인 할 수 있다.





Name __

Password __

Link (Your Website)

Comment

SECRET | 비밀글로 남기기

[Puppeteer] 퍼펫티어의 브라우저를 크롬으로 변경하기[Puppeteer] 퍼펫티어의 브라우저를 크롬으로 변경하기

Posted at 2019.04.29 11:33 | Posted in Node.js/Puppeteer




■ 크로미엄 기반의 브라우저를 퍼펫티어로 제어하기




퍼펫티어는 기본적으로 node 모듈 설치시 같이 설치된 chromium 브라우저를 기반으로 실행된다.





단순한 작업이라면 기본 설치된 크로미움만을 이용해도 문제가 없겠지만.


사용자 인증 과 플러그인 설치등 몇가지 이유로 크로미움만을 사용하는 것에는 한계가 있다.


다행이 퍼펫티어는 구글에서 제공하는 라이브러리 답게 크로미움과 크롬 브라우저의 엔진인 WebKit을 사용하는 


크로미엄을 기반으로 하는 모든 브라우저의 제어가 가능하다.





※ 크로미엄을 기반으로하는 브라우저 종류

브라우저

다운로드 사이트 URL

크롬

 https://www.google.com/intl/ko/chrome/

오페라

 https://www.opera.com/ko/

비발디

 https://vivaldi.com/

브레이브

 https://brave.com/fna497

웨일

 https://whale.naver.com/ko/

블리스크

 https://blisk.io/




TIP. 필자는 주력 브라우저로 파이어 폭스(FireFox)와 크롬(Chrome)을 사용중에 있다.

     그래서 위 예제를 사용하기 위해서는 반드시 사용중인 크롬을 반드시 종료시키고 진행을 해야 했다.

     테스트등 위 예제의 사용시에는 executablePath 실행 경로를 다른 WebKit 기반의 브라우저로 대체하여 작업을 하는것이

     여러모로 스트레스를 덜 받을 것이다.

     위의 필자가 정리한 브라우저들은 전부 필자가 설치하고 테스트 해본것이기에 원하는 부라우저를 다운받고 진행하는 것을 추천한다.





# 소스 코드

 puppeteer_chrome.js

const puppeteer = require("puppeteer");


function delay(timeout) {

  return new Promise((resolve) => {

    setTimeout(resolve, timeout);

  });

}


puppeteer.launch({

  headless : false

, devtools : false

  // 윈도우 크롬 자동 설치시 설치되는 경로

, executablePath : "C:/Program Files (x86)/Google/Chrome/Application/chrome.exe"

  // 윈도우 크롬 사용자 정보를 가지는 경로

, userDataDir : "C:/Users/사용자 계정/AppData/Local/Google/Chrome/User Data"

  // 실행될 브라우저의 화면 크기를 지정한다.

, defaultViewport : { width : 1920, height: 1080 }

, args : [ ]

}).then(async browser => {

const page = await browser.newPage();

await page.goto("https://mail.google.com/mail/u/0/#inbox", { waitUntil : "networkidle2" } );


await delay(5000);

await page.screenshot( { path : "Gmail_Login.png" } );

 

await browser.close();

});





# 노드 실행

C:> node puppeteer_chrome.js





# 출력결과① - 브라우저






# 출력결과② - 스크린샷 이미지 파일





위 이미지와 같이 로그인 절차를 생략하고 바로 G메일 계정에 접근한 것을 확인 할 수 있다.





이 포스팅에서 퍼펫티어이 브라우저를 크롬으로 변경하고, 사용자 계정의 로그인 값을 가져갈 수 있음을 확인했다.


그렇다면 좀더 이어서 크롬의 장점이기도한 확장 플러그인의 사용까지 알아보자.




다음글 : [Puppeteer] 퍼펫티어에서 크롬 확장프로그램 사용하기






Name __

Password __

Link (Your Website)

Comment

SECRET | 비밀글로 남기기

[Puppeteer] 퍼펫티어를 이용한 CRAWLING 작업[Puppeteer] 퍼펫티어를 이용한 CRAWLING 작업

Posted at 2019.04.26 16:27 | Posted in Node.js/Puppeteer





■ 퍼펫티어를 이용한 크롤링 작업





필자가 노드를 처음 접하게된 이유는 급작스러운 크롤링 작업 때문이었다.


당시에는 PhantomJSCasperJS를 통해 작업을 진행 하였고,


왠만학 작업은 위 두개를 가지고 어떻게든 진행 할 수 있었지만.


점점 작업해야하는 프로젝트가 고도화 됨에 따라,


다른 Node.js와의 라이브러리 범용이 어려운 CasperJS의 한계를 느끼게 되었고


Puppeteer를 주로 사용하게 되었다.


Node.js를 통한 크롤링 작업을 준비중인 사람이라면,


그만 퍼펫티어를 더 활용하는것이 스트레스를 덜 받을 것이라고 생각한다.




# 소스 코드

 puppeteer_login.js

const puppeteer = require("puppeteer");


// 사용시 인위적인 딜레이를 주기위한 함수

function delay( timeout ) {

  return new Promise(( resolve ) => {

    setTimeout( resolve, timeout );

  });

}


puppeteer.launch({

  headless : false // 헤드리스모드의 사용여부를 묻는다.

, devtools : true // 개발자 모드의 사용여부를 묻는다.

}).then(async browser => {


const page = await browser.newPage();

// 로그인할 티스토리 블로그의 관리자 페이지를 지정

await page.goto( "http://magic.wickedmiso.com/manage/", { waitUntil : "networkidle2" } );

// 티스토리의 아이디와 암호를 입력한다.

await page.type( "div.box_login > div.inp_text:nth-child(1) > input#loginId", "티스토리 아이디" );

await page.type( "div.box_login > div.inp_text:nth-child(2) > input#loginPw", "티스토리 패스워드" );



/* document.getElementByI로 직접 입력할 input BOX를 선택하여 작업하는 것도 가능하다.

await page.evaluate(() => {

document.getElementById( "div.box_login > div.inp_text:nth-child(1) > input#loginId" ).value = "티스토리 아이디";

                document.getElementById( "div.box_login > div.inp_text:nth-child(2) > input#loginPw" ).value = "티스토리 패스워드";

});

*/


await delay(3000);

        // 로그인 SUBMIT 기능

const elementHandle = await page.waitFor( "input" );

await elementHandle.press( "Enter" );

await delay(5000);

        /* 로그인이후 방문 기록 데이터를 콘솔에 띄워본다. */

const emToDay = await page.waitFor( "div.box_blog > dl.count_visitor:nth-child(1) > dd" );

        const txtToDay = await page.evaluate( emToDay => emToDay.textContent, emToDay );

        console.log("-. 오늘 방문자 수", txtToDay);

    

const emYesterDay = await page.waitFor( "div.box_blog > dl.count_visitor:nth-child(2) > dd" );

        const txtYesterDay = await page.evaluate( emYesterDay => emYesterDay.textContent, emYesterDay );

        console.log("-. 어제 방문자 수", txtYesterDay);


const emCumulativ = await page.waitFor( "div.box_blog > dl.count_visitor:nth-child(3) > dd" );

        const txtCumulativ = await page.evaluateemCumulativ => emCumulativ.textContentemCumulativ );

        console.log("-. 누적 방문자 수", txtCumulativ);

});





# 노드 실행

 C:> node puppeteer_login.js





# 출력 결과











Name __

Password __

Link (Your Website)

Comment

SECRET | 비밀글로 남기기

[Puppeteer] 퍼펫티어 설치 및 설정하기[Puppeteer] 퍼펫티어 설치 및 설정하기

Posted at 2019.04.23 11:00 | Posted in Node.js/Puppeteer




GitHub : https://github.com/GoogleChrome/puppeteer

GitHub(API) : https://github.com/GoogleChrome/puppeteer/blob/master/docs/api.md

참고 : https://blog.outsider.ne.kr/1318

참고 : https://www.samsungsds.com/global/ko/support/insights/090717_RD_GitPuppeteer.html

API : https://pptr.dev/

NPM : https://www.npmjs.com/package/puppeteer

포스트 : SW개발자의 메카 깃허브와 주목받는 깃허브(GitHub) 트렌드 퍼펫티어(Puppeteer)






■ 헤드리스(Headless)란?





#01. 헤드리스란?



헤드리스 브라우저란 응용프로그램으로서 존재하는 파이어 폭스, 크롬, 익스플러, 사파리와 같이 실제로 존재하는 브라우저를 지칭하는 것이 아니라,


일반적인 CLI환경에서 브라우저가 사용자의 눈에 보여지지 않고, 백그라운드에서 작동하는 것을 말한다.


그러므로 헤드리스 브라우저라는 표현보단, 헤드리스 모드라고 하는것이 더 정확한 표현이라고 보아야 할것이다.





#02. 헤드리스 모드를 지원하는 브라우저



크롬(헤드리스 크롬), 파이어 폭스등은 헤드리스 모드를 지원하며


가장 널리 알려진 팬텀JS(Wabkit)등 아예 헤드리스 모드만을 위해 제작된 제품들도 존재한다.





#03. 헤드리스를 사용하는 이유



헤드리스 모드의 사용은 주로 자동화 목적을 가진다.







■ 퍼펫티어(Puppeteer)란?



퍼펫티어(Puppeteer)는 Headless Chrome을 쉽게 사용할 수 있도록 Google Chrome 팀에서 공개한 Node.js 라이브러리이다.

(퍼펫티어는 구글의 크롬(Chrome)에 헤드리스를 추가했다.)


퍼펫티어는 구글 크롬의 헤드리스 모드를 사용(크로미움 기반의 브라우저)하여 브라우저를 사용자에게 보여주지 않고, 백그라운드에서 작동할 수 있게 해준다.







■ 퍼펫티어 설치하기



 $ npm install puppeteer







■ Node.js로 퍼펫티어 실행하기




# 소스코드

 puppeteer_start.js

const puppeteer = require("puppeteer");


// puppeteer.executablePath()는 설치한 puppeteer 노드모듈의 번들로 제공되는 chromium 브라우저의 경로의 주소값을 가진다.

// 해당 예제는 puppeteer.launch를 통해 퍼펫티어를 실행할때 해당 경로의 값을 지정한다.

console.log(puppeteer.executablePath());



// 딜레이를 주기 위한 함수

function delay( timeout ) {

  return new Promise(( resolve ) => {

    setTimeoutresolvetimeout );

  });

}



puppeteer.launch({

         headless : false // 헤드리스모드의 사용여부를 묻는다

, devtools : false // 브라우저의 개발자 모드의 오픈 여부를 묻는다

, executablePathpuppeteer.executablePath() // 실행할 chromium 기반의 브라우저의 실행 경로를 지정한다.

, ignoreDefaultArgs : false // 배열이 주어진 경우 지정된 기본 인수를 필터링한다.(중요 : true사용금지)

, timeout : 30000 // 브라우저 인스턴스가 시작될 때까지 대기하는 시간(밀리 초)

, defaultViewport : { width : 800, height : 600 } // 실행될 브라우저의 화면 크기를 지정한다.

, args : [ "about:blank" ]

}).then(async browser => {

const page = await browser.newPage();

// 새탭을 열고 작업을 수행할 페이지를 지정한다.

await page.goto( "http://magic.wickedmiso.com/", { waitUntil : "networkidle2" } );

// 5초간딜레이를 준다.

await delay(5000);

// 스크린샷을 찍는다.

await page.screenshot( { path : "wickedBlog.png" } );

// 모든 작업을 수행하면 브라우저를 닫고 퍼펫티어를 종료한다.

await browser.close();

});





#01. puppeteer.launch 실행 옵션



puppeteer.launch( [ 옵션 ] )을 사용하여 퍼펫티어를 실행하여 브라우저를 제어어할 수 있다.



옵 션

기 본 값

설     명

 ignoreHTTPSErrors

false

 · 탐색중에 HTTPS 오류를 무시할것인지를 묻는다.

 headless

true

 · 번들로 제공되는 크로미움 브라우저를 실행할 것인지를 묻는다.

 · false로 실행을 하게되면 크로미움 브라우저가 보여지고 실행과정을 화면에서 확인 할 수 있다.

 devtools

false

 · 각 탭에 대해 개발자도구를 자동으로 열지 여부를 묻는다.

 · 사용할경우 headless : false로 설정해 주어야 한다.

 executablePath

Chromium

Broswer

 · 번들로 제공되는 크로미움이 아닌 다른 브라우저의 사용시 설정한다.

 · 사용할 실행 파일을 설정하면 설정한 크로미움 기반 여러 브라우저의 사용이 가능하다.

   (Chrome, Opera, Whale, Vivaldi, Brave 등)

 · 참고 : 작성중

 slowMo

0

 · 지정된 시간(ms : 밀리 초) 까지 퍼펫티어의 작업을 느리게 실행한다.

 · 무슨 일이 일어나고 있는지 확인 할 때 유용하다.

 defaultViewport

800 x 600

 · 각 페이지에 대해 일괄된 화면SIZE를 지정한다.

 · null을 지정하면 비활성화 된다.

 · 속성

  -. width : 페이지 너비(픽셀)

  -. height : 페이 높이(픽셀)

  -. deviceScaleFactor : 장치 배율 인수를 지정한다(dpr로 생각할 수 있음). (기본값 : 1)

  -. isMobile : meta viewport 태그가 고려되는지 여부를 묻는다.(기본값 : false)

  -. hasTouch : 터치 이벤트를 지원하는지 여부를 묻는다. (기본값 : false)

  -. isLandscape : 가로 모드인지 여부를 묻는다. (기본값 : false)

 ignoreDefaultArgs

false 

 · 배열이 주어진 경우 지정된 인수를 필터링 한다.

 · 특별한 상황이 아닌이상 변경하지 말고 false 기본값을 사용하자(true 변경 금지)

 handleSIGINT

true

 · 브라우저에서 Ctrl + C 버튼을 클릭하여 프로세스를 종료시킬 수 있다.

 handleSIGTERM

true

 · 실행한 터미널에서 Ctrl + C 버튼을 클릭하여 프로세스를 종료시킬 수 있다.

 handleSIGHUP

true

 · 실행한 터미널에서 Ctrl + C 버튼을 클릭하여 프로세스를 종료시킬 수 있다.

 timeout

30000

 · 브라우저 인스턴스가 시작될 때까지 대기하는 최대 시간(ms : 밀리 초)를 지정한다.

 · 0을 지정하여 시간 제한을 해제 할 수 있다.

 dumpio

false

 · 브라우저 프로세스의 로그를 stdout 및 stderr을 process.stdout 및 process.stderr

   (구글 번역 내용을 적었다. 프로세스의 실행 로그 관리로 추정되는데, 좀더 확인이 필요할듯)

 userDataDir

-

 · 사용자 디렉토리의 경로를 지정한다.

 · 경로를 지정하면 크롬 브라우저의 사용자 접속정보를 그대로 가지고 퍼펫티어가 실행되므로

  로그인등의 인증절차가 필요한 경우 유용하게 사용할 수 있다.

 · 참고 : https://chromium.googlesource.com/chromium/src/+/master/docs/user_data_dir.md

 env

process.env

 · 브라우저에서 볼 수 있는 환경 변수를 지정 

 pipe

false

 · 웹 소켓대신 파이프를 통해 브라우저에 연결한다.

  (구글 번역 내용을 적었다. 프로세스의 실행 로그 관리로 추정되는데, 좀더 확인이 필요할듯)

 args

-

 · 브라우저 인스턴스에 전달할 추가 인수의 목록

 · 크롬 플래그 목록 참고 : https://peter.sh/experiments/chromium-command-line-switches/






#02. page.goto 이벤트 waitUntil 속성



※ waitUntil : 페이지를 호출하고 작업을 진행할 시점을 결정한다.


옵 션

설   명

 load

 · load 이벤트가 시작되면 탐색이 완료되는 것으로 간주한다.

 docntentload

 · HTML 문서가 완전히 로드 및 파싱되었을 경우(DOMContentLoaded 이벤트) 탐색이 완료되는 것으로 간주한다.

 networkidle0

 · 최소한 500ms 동안 네트워크 연결이 0개 이상 없을때 탐색이 완료되는 것으로 간주한다. 

 networkidle2

 · 최소한 500ms 동안 두 개 이상의 네트워 연결이 없을 때 탐색이 완료되는 것으로 간주한다.





# 출력결과① - 브라우저





# 출력결과② - 스크린샷 이미지 파일








Name __

Password __

Link (Your Website)

Comment

SECRET | 비밀글로 남기기