百度360必应搜狗淘宝本站头条
当前位置:网站首页 > IT技术 > 正文

node.js 14 自动化工具 (爬虫) Selenium安装使用

wptr33 2024-12-03 03:57 15 浏览

上一篇:node.js 13 Web框架Koa

做过前端自动化,测试或者爬虫的朋友应该对Selenium不陌生。


Selenium是一个用于支持和支持web浏览器自动化的一系列工具和库。

它提供了模拟用户与浏览器交互的扩展、用于缩放浏览器分配的分发服务器以及用于实现W3C WebDriver规范的基础结构,该规范允许您为所有主要web浏览器编写可互换的代码。

这是一个开源的项目。Selenium的核心是WebDriver,它是一个编写指令集的接口,可以在许多浏览器中互换运行。

简而言之,Selenium可以被多种语言调用来模拟浏览器进行web访问。通过使用Selenium,可以轻松的进行Web前端的自动化测试,也可以作为爬虫。

目前Selenium支持Java, Python, C#, Ruby,JavaScript和Kotlin。

在node.js环境下安装Selenium

  1. 安装selenium webdriver,这是selenium的运行环境。
D:\Projects\nodejs\NodeDemo\selenium>npm install selenium-webdriver --save
npm notice created a lockfile as package-lock.json. You should commit this file.
npm WARN y@1.0.0 No description
npm WARN y@1.0.0 No repository field.

+ selenium-webdriver@4.0.0-alpha.7
added 27 packages from 22 contributors and audited 32 packages in 10.196s

1 package is looking for funding
  run `npm fund` for details

found 0 vulnerabilities
  1. 安装Chrome驱动,也可以选择安装Firefox驱动或者其他浏览器驱动。Selenium支持多个浏览器。
D:\Projects\nodejs\NodeDemo\selenium>npm install chromedriver --save
> chromedriver@80.0.1 install D:\Projects\nodejs\NodeDemo\selenium\node_modules\chromedriver
> node install.js
Current existing ChromeDriver binary is unavailable, proceeding with download and extraction.
Downloading from file:  https://chromedriver.storage.googleapis.com/80.0.3987.16/chromedriver_win32.zip
Saving to file: C:\Users\vincent\AppData\Local\Temp\80.0.3987.16\chromedriver\chromedriver_win32.zip
Received 1025K...
Received 2050K...
Received 3076K...
Received 4101K...
Received 4268K total.
Extracting zip contents
Copying to target path D:\Projects\nodejs\NodeDemo\selenium\node_modules\chromedriver\lib\chromedriver
Done. ChromeDriver binary available at D:\Projects\nodejs\NodeDemo\selenium\node_modules\chromedriver\lib\chromedriver\chromedriver.exe
npm WARN y@1.0.0 No description
npm WARN y@1.0.0 No repository field.

+ chromedriver@80.0.1
added 60 packages from 93 contributors and audited 137 packages in 110.907s

3 packages are looking for funding
  run `npm fund` for details

found 1 low severity vulnerability
  run `npm audit fix` to fix them, or `npm audit` for details

如果安装Firefox驱动,将上述命令行中的 "chromedriver" 改成 "geckodriver" 即可。

  1. 设置路径,将Chromedriver的路径添加到系统环境变量path中。

Chromedriver的路径在上一步安装Chrome驱动时已经下载了,保存在 <Your Project>\node_modules\chromedriver\lib\chromedriver目录中,将该目录加入到系统环境变量Path即可。否则在运行时,会报下列错误。

 D:\Projects\nodejs\NodeDemo\selenium>node app.js
(node:27800) UnhandledPromiseRejectionWarning: 
Error: The ChromeDriver could not be found on the current PATH. 
Please download the latest version of the ChromeDriver from http://chromedriver.storage.googleapis.com/index.html and ensure it can be found on your PATH.


在node.js环境中使用Selenium

我这里举两个例子。一是获取某网站频道,另一个是使用某网站进行搜索。

为了避免不必要的麻烦,我把该网站的网站隐藏了,如果朋友们感兴趣,测试时可以在代码中输入相关网站的网址即可。

  • 获取网站频道

这里的代码使用了async/await,这样就可以回避嵌套回调函数了。关于async/await,感兴趣的朋友可以看看这篇文章 node.js 12 异步 async/await

const {Builder, By, Key, until} = require('selenium-webdriver');

async function example() {
    let driver = await new Builder().forBrowser('chrome').build();
    
        // 访问网址,可以将下面的字符串替换成自己想要访问的网址即可。
        await driver.get('https://xxxx.xxx.xxx')
      //获取网页中的元素
        let elements = await driver.findElements(By.className('channel-item'))
        for(let e of elements) {
          //获取元素的文本
            console.log(await e.getText());
        }
}
//直接调用该async方法
example()

注意,上面相关的代码都使用了await,方法头加了async,在方法外面就可以直接调用了。

运行该代码,程序会打开Chrome,访问该网站,在控制台打印出该网站的频道。

  • 搜索网站内容

找到网站搜索文本框对应的css class,逻辑和上面一样,不同的是再获取到WebElement后,调用sendKeys方法即可进行搜索。

const {Builder, By, Key, until} = require('selenium-webdriver');

async function example() {
    let driver = await new Builder().forBrowser('chrome').build();
         // 访问网址,可以将下面的字符串替换成自己想要访问的网址即可。
        await driver.get('https://xxxx.xxxx.com')
        await driver.findElement(By.className("tt-input__inner")).then(function(source) {
            source.sendKeys('vincent', Key.ENTER)            
        })   
}

example()

运行该js文件,程序会自动打开Chrome浏览器,再搜索文本框中输入'vincent'并点击回车进行搜索。

关于上面Selenium的介绍或者示例代码,如果有问题,欢迎朋友们留言讨论。

相关推荐

Git 的设计:版本管理的天才之作

Git的设计之所以被称为“天才”,是因为它通过一系列**革命性的理念**和**精妙的工程实现**,完美解决了版本控制中的核心痛点。以下是其设计精髓的深度解析:---###一、**颠覆传统的核心设计...

IDEA上如何重新设置git账号密码

修改git账号密码,使用IDEA拉取项目的文件,出现如下错误信息。fatal:unabletoaccess'http://192.168.105.101:8901/XX/XX-XX-p...

在IDEA中利用ignore插件忽略Git非必要提交的文件

迎关注我的头条号:Wooola,10年Java软件开发及架构设计经验,专注于Java、Go语言、微服务架构,致力于每天分享原创文章、快乐编码和开源技术。前言在IEDA中,使用Maven建多工程编写代码...

Git入门系列之分支切换完全指南

在Git中切换分支时,若存在未提交的修改,需谨慎处理以避免数据丢失。主要注意事项包括:1)通过gitstatus检查当前修改;2)优先使用gitstash暂存修改再切换;3)可提交修...

解决Git推送提交时&#39;src refspec master does not match any&#39;错误

技术背景在使用Git进行代码管理时,我们经常会遇到各种问题。其中,“srcrefspecmasterdoesnotmatchany”错误是一个比较常见的问题。当我们尝试使用...

修改git提交的用户名

在我们项目中,新手同学们往往由于不当操作导致提交的用户名填写错误,当我们用户名填写错误的时候可以通过命令修改。获取当前用户名:gitconfiguser.name...

在项目管理中,自动关联Git代码提交,集成Gitlab/码云/Git等

不再让开发提交的代码成为“黑洞”在软件开发过程中,会有一个问题和担心,就是不知道开发人员提交的代码质量如何,规范怎样。更为让人痛苦的莫过于当时某个功能需求改了什么代码,根本无人知道。今天,分享一个工具...

常用的十五个Git命令汇总?

Git是一个分布式的版本管理系统,在开发中被广泛应用于代码版本的管理,下面就是在日常开发中常用的一些Git命令以及其示例操作,如下所示,我们就来一起看看吧!gitinit用于初始化一个新的Git仓库...

git修改已提交记录的用户信息

背景介绍因为使用的是个人电脑,配置的git全局config的用户信息是和github的账户一致的。新下载的工作git,由于没有单独设置局部的用户信息,导致提交记录使用的是github用户,在push代...

刚来公司,大佬让我Git下 我该怎么办?

我们在开发过程中,都会用到版本控制工具。常用的工具有SVNGIt等。但现在越来越多的人喜欢用Git。本文为你介绍新手如何快速上手Git。创建自己的远程仓库远程仓库,顾名思义。就是将自己的代码放到远程服...

腾讯自研Git客户端,助力每个人都可以轻松使用Git

...

Git+Maven+Sonar实现提交代码前进行代码的质量检查

Git+Maven+Sonar实现提交代码前进行代码的质量检查一、前言为了规范代码质量,使开发人员写出更高质量的代码,实践了一下git-hooks中的pre-commit钩子,可以在提交代码时强制校验...

Git Rebase

本文档将深入讨论gitrebase命令。Rebase命令在设置仓库和重写历史页面中也有涉及。本页将更详细地介绍gitrebase的配置和执行。这里将涵盖常见的Rebase使用场景和注...

Git提交规范

一、分区存储...

git合并分支时禁止合并特定文件

问题:1.在日常开发过程中经常会遇到多环境,但是环境文件不同的情况,导致每次切换git环境时候非常麻烦,可能会提交上来不需要提交的文件,一个文件来回提交修改。场景:...