node.js 14 自动化工具 (爬虫) Selenium安装使用
wptr33 2024-12-03 03:57 15 浏览
做过前端自动化,测试或者爬虫的朋友应该对Selenium不陌生。
Selenium是一个用于支持和支持web浏览器自动化的一系列工具和库。
它提供了模拟用户与浏览器交互的扩展、用于缩放浏览器分配的分发服务器以及用于实现W3C WebDriver规范的基础结构,该规范允许您为所有主要web浏览器编写可互换的代码。
这是一个开源的项目。Selenium的核心是WebDriver,它是一个编写指令集的接口,可以在许多浏览器中互换运行。
简而言之,Selenium可以被多种语言调用来模拟浏览器进行web访问。通过使用Selenium,可以轻松的进行Web前端的自动化测试,也可以作为爬虫。
目前Selenium支持Java, Python, C#, Ruby,JavaScript和Kotlin。
在node.js环境下安装Selenium
- 安装selenium webdriver,这是selenium的运行环境。
D:\Projects\nodejs\NodeDemo\selenium>npm install selenium-webdriver --save
npm notice created a lockfile as package-lock.json. You should commit this file.
npm WARN y@1.0.0 No description
npm WARN y@1.0.0 No repository field.
+ selenium-webdriver@4.0.0-alpha.7
added 27 packages from 22 contributors and audited 32 packages in 10.196s
1 package is looking for funding
run `npm fund` for details
found 0 vulnerabilities
- 安装Chrome驱动,也可以选择安装Firefox驱动或者其他浏览器驱动。Selenium支持多个浏览器。
D:\Projects\nodejs\NodeDemo\selenium>npm install chromedriver --save
> chromedriver@80.0.1 install D:\Projects\nodejs\NodeDemo\selenium\node_modules\chromedriver
> node install.js
Current existing ChromeDriver binary is unavailable, proceeding with download and extraction.
Downloading from file: https://chromedriver.storage.googleapis.com/80.0.3987.16/chromedriver_win32.zip
Saving to file: C:\Users\vincent\AppData\Local\Temp\80.0.3987.16\chromedriver\chromedriver_win32.zip
Received 1025K...
Received 2050K...
Received 3076K...
Received 4101K...
Received 4268K total.
Extracting zip contents
Copying to target path D:\Projects\nodejs\NodeDemo\selenium\node_modules\chromedriver\lib\chromedriver
Done. ChromeDriver binary available at D:\Projects\nodejs\NodeDemo\selenium\node_modules\chromedriver\lib\chromedriver\chromedriver.exe
npm WARN y@1.0.0 No description
npm WARN y@1.0.0 No repository field.
+ chromedriver@80.0.1
added 60 packages from 93 contributors and audited 137 packages in 110.907s
3 packages are looking for funding
run `npm fund` for details
found 1 low severity vulnerability
run `npm audit fix` to fix them, or `npm audit` for details
如果安装Firefox驱动,将上述命令行中的 "chromedriver" 改成 "geckodriver" 即可。
- 设置路径,将Chromedriver的路径添加到系统环境变量path中。
Chromedriver的路径在上一步安装Chrome驱动时已经下载了,保存在 <Your Project>\node_modules\chromedriver\lib\chromedriver目录中,将该目录加入到系统环境变量Path即可。否则在运行时,会报下列错误。
D:\Projects\nodejs\NodeDemo\selenium>node app.js
(node:27800) UnhandledPromiseRejectionWarning:
Error: The ChromeDriver could not be found on the current PATH.
Please download the latest version of the ChromeDriver from http://chromedriver.storage.googleapis.com/index.html and ensure it can be found on your PATH.
在node.js环境中使用Selenium
我这里举两个例子。一是获取某网站频道,另一个是使用某网站进行搜索。
为了避免不必要的麻烦,我把该网站的网站隐藏了,如果朋友们感兴趣,测试时可以在代码中输入相关网站的网址即可。
- 获取网站频道
这里的代码使用了async/await,这样就可以回避嵌套回调函数了。关于async/await,感兴趣的朋友可以看看这篇文章 node.js 12 异步 async/await。
const {Builder, By, Key, until} = require('selenium-webdriver');
async function example() {
let driver = await new Builder().forBrowser('chrome').build();
// 访问网址,可以将下面的字符串替换成自己想要访问的网址即可。
await driver.get('https://xxxx.xxx.xxx')
//获取网页中的元素
let elements = await driver.findElements(By.className('channel-item'))
for(let e of elements) {
//获取元素的文本
console.log(await e.getText());
}
}
//直接调用该async方法
example()
注意,上面相关的代码都使用了await,方法头加了async,在方法外面就可以直接调用了。
运行该代码,程序会打开Chrome,访问该网站,在控制台打印出该网站的频道。
- 搜索网站内容
找到网站搜索文本框对应的css class,逻辑和上面一样,不同的是再获取到WebElement后,调用sendKeys方法即可进行搜索。
const {Builder, By, Key, until} = require('selenium-webdriver');
async function example() {
let driver = await new Builder().forBrowser('chrome').build();
// 访问网址,可以将下面的字符串替换成自己想要访问的网址即可。
await driver.get('https://xxxx.xxxx.com')
await driver.findElement(By.className("tt-input__inner")).then(function(source) {
source.sendKeys('vincent', Key.ENTER)
})
}
example()
运行该js文件,程序会自动打开Chrome浏览器,再搜索文本框中输入'vincent'并点击回车进行搜索。
关于上面Selenium的介绍或者示例代码,如果有问题,欢迎朋友们留言讨论。
相关推荐
- Git 的设计:版本管理的天才之作
-
Git的设计之所以被称为“天才”,是因为它通过一系列**革命性的理念**和**精妙的工程实现**,完美解决了版本控制中的核心痛点。以下是其设计精髓的深度解析:---###一、**颠覆传统的核心设计...
- IDEA上如何重新设置git账号密码
-
修改git账号密码,使用IDEA拉取项目的文件,出现如下错误信息。fatal:unabletoaccess'http://192.168.105.101:8901/XX/XX-XX-p...
- 在IDEA中利用ignore插件忽略Git非必要提交的文件
-
迎关注我的头条号:Wooola,10年Java软件开发及架构设计经验,专注于Java、Go语言、微服务架构,致力于每天分享原创文章、快乐编码和开源技术。前言在IEDA中,使用Maven建多工程编写代码...
- Git入门系列之分支切换完全指南
-
在Git中切换分支时,若存在未提交的修改,需谨慎处理以避免数据丢失。主要注意事项包括:1)通过gitstatus检查当前修改;2)优先使用gitstash暂存修改再切换;3)可提交修...
- 解决Git推送提交时'src refspec master does not match any'错误
-
技术背景在使用Git进行代码管理时,我们经常会遇到各种问题。其中,“srcrefspecmasterdoesnotmatchany”错误是一个比较常见的问题。当我们尝试使用...
- 修改git提交的用户名
-
在我们项目中,新手同学们往往由于不当操作导致提交的用户名填写错误,当我们用户名填写错误的时候可以通过命令修改。获取当前用户名:gitconfiguser.name...
- 在项目管理中,自动关联Git代码提交,集成Gitlab/码云/Git等
-
不再让开发提交的代码成为“黑洞”在软件开发过程中,会有一个问题和担心,就是不知道开发人员提交的代码质量如何,规范怎样。更为让人痛苦的莫过于当时某个功能需求改了什么代码,根本无人知道。今天,分享一个工具...
- 常用的十五个Git命令汇总?
-
Git是一个分布式的版本管理系统,在开发中被广泛应用于代码版本的管理,下面就是在日常开发中常用的一些Git命令以及其示例操作,如下所示,我们就来一起看看吧!gitinit用于初始化一个新的Git仓库...
- git修改已提交记录的用户信息
-
背景介绍因为使用的是个人电脑,配置的git全局config的用户信息是和github的账户一致的。新下载的工作git,由于没有单独设置局部的用户信息,导致提交记录使用的是github用户,在push代...
- 刚来公司,大佬让我Git下 我该怎么办?
-
我们在开发过程中,都会用到版本控制工具。常用的工具有SVNGIt等。但现在越来越多的人喜欢用Git。本文为你介绍新手如何快速上手Git。创建自己的远程仓库远程仓库,顾名思义。就是将自己的代码放到远程服...
- Git+Maven+Sonar实现提交代码前进行代码的质量检查
-
Git+Maven+Sonar实现提交代码前进行代码的质量检查一、前言为了规范代码质量,使开发人员写出更高质量的代码,实践了一下git-hooks中的pre-commit钩子,可以在提交代码时强制校验...
- Git Rebase
-
本文档将深入讨论gitrebase命令。Rebase命令在设置仓库和重写历史页面中也有涉及。本页将更详细地介绍gitrebase的配置和执行。这里将涵盖常见的Rebase使用场景和注...
- Git提交规范
-
一、分区存储...
- git合并分支时禁止合并特定文件
-
问题:1.在日常开发过程中经常会遇到多环境,但是环境文件不同的情况,导致每次切换git环境时候非常麻烦,可能会提交上来不需要提交的文件,一个文件来回提交修改。场景:...
- 一周热门
-
-
C# 13 和 .NET 9 全知道 :13 使用 ASP.NET Core 构建网站 (1)
-
因果推断Matching方式实现代码 因果推断模型
-
git pull命令使用实例 git pull--rebase
-
面试官:git pull是哪两个指令的组合?
-
git fetch 和git pull 的异同 git中fetch和pull的区别
-
git pull 和git fetch 命令分别有什么作用?二者有什么区别?
-
git 执行pull错误如何撤销 git pull fail
-
还可以这样玩?Git基本原理及各种骚操作,涨知识了
-
git pull 之后本地代码被覆盖 解决方案
-
git命令之pull git.pull
-
- 最近发表
- 标签列表
-
- git pull (33)
- git fetch (35)
- mysql insert (35)
- mysql distinct (37)
- concat_ws (36)
- java continue (36)
- jenkins官网 (37)
- mysql 子查询 (37)
- python元组 (33)
- mybatis 分页 (35)
- vba split (37)
- redis watch (34)
- python list sort (37)
- nvarchar2 (34)
- mysql not null (36)
- hmset (35)
- python telnet (35)
- python readlines() 方法 (36)
- munmap (35)
- docker network create (35)
- redis 集合 (37)
- python sftp (37)
- setpriority (34)
- c语言 switch (34)
- git commit (34)