汇总:Python常用库大全及简要说明
优采云 发布时间: 2022-11-28 20:48汇总:Python常用库大全及简要说明
treq:一个基于Twisted HTTP客户端构建的类似请求的Python API。官方网站
urllib3:一个清晰友好的HTTP库,具有线程安全连接池,支持文件发布。 官方网站
数据库
由 Python 实现的数据库。
pickleDB:一个简单、轻量级的键值存储数据库。官方网站
PipelineDB:流式SQL数据库。官方网站
TinyDB:一个微型的、面向文档的数据库。官方网站
ZODB:Python 原生对象数据库。键值和对象图数据库。官方网站
数据库驱动
用于连接和操作数据库的库。
MySQL:真棒-mysql 系列
aiomysql:基于异步的异步MySQL数据库操作库。官方网站
mysql-python:Python的MySQL数据库连接器。官方网站
ysqlclient:mysql-python分支,支持Python 3。
oursql:一个更好的MySQL连接器,支持本机预编译指令和BLOB。官方网站
PyMySQL:纯Python MySQL驱动程序,与mysql-python兼容。官方网站
PostgreSQL
psycopg2:Python中最受欢迎的PostgreSQL适配器。官方网站
query:用于与PostgreSQL交互的psycopg2库的包装器。官方网站
txpostgres:基于扭曲的异步PostgreSQL驱动程序。官方网站
其他关系数据库
apsw:另一个Python SQLite包装器。官方网站
数据集:在数据库中存储 Python 字典
pymssql:一个简单的Microsoft SQL Server数据库接口。官方网站
NoSQL数据库
asyncio-redis:基于 asyncio 的 Redis 客户端 (PEP 3156)。官方网站
Cassandra-python-driver:Cassandra的Python驱动程序。官方网站
HappyBase:一个为Apache HBase设计的开发人员友好型库。官方网站
Plyvel:一个快速且功能丰富的Python接口,用于LevelDB。官方网站
py2neo:用于 Neo4j restful 接口的 Python 包装器客户端。官方网站
pycassa:Cassandra的Python Thrift驱动程序。官方网站
PyMongo:MongoDB的官方Python客户端。官方网站
redis-py:Redis的Python客户端。官方网站
telephus:基于扭曲的Cassandra客户端。官方网站
txRedis:一个基于扭曲的 Redis 客户端。官方网站
奥姆
实现对象关系映射或数据映射技术的库。
关系数据库
Django 模型:Django 的一部分。官方网站
SQLAlchemy:Python SQL工具和对象关系映射工具。官方网站
真棒炼金术系列
皮尤:一个小的,富有表现力的ORM。官方网站
PonyORM:一个提供面向*敏*感*词*的SQL接口的ORM。官方网站
python-sql:编写 Python 风格的 SQL 查询。官方网站
NoSQL数据库
django-mongodb-engine:Django MongoDB后端。官方网站
PynamoDB:Amazon DynamoDB 的 Python 风格接口。官方网站
飞轮:Amazon DynamoDB 的对象映射工具。官方网站
MongoEngine:MongoDB的Python对象文档映射工具。官方网站
hot-redis:为 Redis 提供丰富的 Python 数据类型。官方网站
redisco:一个Python库,提供在Redis中保留的简单模型和容器。官方网站
其他
butterdb:用于Google Drive电子表格的Python ORM。官方网站
网络框架
全栈网络框架。
Django:Python中最流行的Web框架。官方网站
真棒姜戈系列
Flask:一个Python微型框架。官方网站
真棒烧瓶系列
金字塔:一个小型、快速、接地气的开源Python Web框架。
真棒金字塔系列
瓶子:一个快速,紧凑,轻量级的WSGI微Web框架。官方网站
CherryPy:一个遵循HTTP / 1.1协议并具有WSGI线程池的极简Python Web框架。官方网站
TurboGears:一个可以扩展到全栈解决方案的微型框架。官方网站
web.py:一个既简单又强大的Python Web框架。官方网站
web2py:一个专注于简单性和易用性的全栈Web框架和平台。官方网站
Tornado:一个Web框架和异步网络库。官方网站
sanic:基于 Python 3.5+ 的异步网络框架。官方网站
权限
允许或拒绝用户访问数据或功能库。
Carteblanche:从用户和设计人员的角度开发的代码对齐模块,可以很好地处理代码导航和权限。官方网站
django-guardian:Django 1.2+ 实现了单个对象权限。官方网站
Django-Rules:一个小型但功能强大的应用程序,无需数据库即可提供对象级权限管理。官方网站
内容生产
内容管理系统
Odoo-CMS:基于Odoo的开源企业级CMS。官方网站
django-cms:一个基于Django的开源企业级CMS。官方网站
djedi-cms:一个轻量级但非常强大的Django CMS,它考虑了插件,内联编辑和性能。官方网站
FeinCMS:建立在Django之上的最先进的内容管理系统之一。官方网站
Kotti:一个建立在Pyramid上的先进的、类似Python的Web应用程序框架。官方网站
夹层:一个强大、连续且灵活的内容管理平台。官方网站
Opps:一个基于Django的为杂志,报纸网站和高流量门户设计的CMS平台。官方网站
Plone:建立在开源应用服务器Zope之上的CMS。官方网站
Quokka:基于Flask和MongoDB的灵活,可扩展的小型CMS。官方网站
Wagtail:一个Django内容管理系统。官方网站
Widgy:最新的CMS框架,基于Django。官方网站
电子商务
电子商务和支付的框架和库。
django-oscar:Django的开源电子商务框架。官方网站
Django-shop:一个基于Django的存储系统。官方网站
墨盒:基于夹层构建的购物车应用程序。官方网站
shoop:一个基于Django的开源电子商务平台。官方网站
支付宝:非官方的Python支付宝API。官方网站
商家:一个Django应用程序,可以从多个支付平台接收付款。官方网站
货币:货币库。提供具有可选 CLDR 后端本地化格式的可扩展货币兑换解决方案。官方网站
python-currency:显示货币格式及其值。官方网站
RESTful API
用于开发 RESTful API 的库
姜戈
django-rest-framework:一个强大而灵活的工具,用于构建Web API。官方网站
django-tastypie:为 Django 应用程序开发 API。官方网站
django-formapi:为Django的表单验证创建JSON API。官方网站
瓶
flask-api:专为 flask 开发,您可以浏览 Web API。官方网站烧
瓶休息:快速创建烧瓶的 REST API。官方网站
flask-restless:为 SQLAlchemy 定义的数据库模型创建 RESTful API。官方网站
flask-api-utils:处理 Flask 的 API 表示和验证。官方网站
EVE:由Flask,MongoDB等驱动的REST API框架。官方网站
金字塔
檐口:金字塔的REST框架。官方网站
与框架无关
Falcon:用于构建云API和Web应用程序后端的高性能框架。官方网站
sandman:为现有的数据库驱动系统自动创建 REST API。官方网站
restless:一个与框架无关的REST框架,基于你从Tastypie学到的东西。官方网站
Ripozo:快速创建 REST/HATEOAS/Hypermedia API。官方网站
验证
实现验证方案的库。
OAuth
自动:简单但功能强大的客户端身份验证/授权框架。官方网站
django-allauth:Django 的验证应用程序。官方网站
django-oauth-toolkit:OAuth2 for Django users。官方网站
django-oauth2-provider:提供对 Django 应用程序的 OAuth2 访问。官方网站
Flask-OAuthlib:OAuth 1.0/a,2.0客户端实现,供Flask使用。官方网站
OAuthLib:OAuth 请求签名逻辑的通用完整实现。官方网站
python-oauth2:一个经过全面测试的抽象接口。用于创建 OAuth 客户端和服务器。官方网站
python-social-auth:一种设置社交验证的简单方法。官方网站
rauth:OAuth 1.0/a、2.0和Ofly的Python库。官方网站
制裁:一个超级简单的 OAuth2 客户端实现。官方网站
其他
Jose:实现 JavaScript 对象签名和加密草稿。官方网站
PyJWT: JSON Web Token Draft 01.官方网站
python-jws:JSON Web 签名草案的实现 02.官方网站
python-jwt:用于生成和验证JSON Web令牌的模块。官方网站
模板引擎
用于模板生成和词法解析的库和工具。
Jinja2:一个现代的、设计师友好的模板引擎。官方网站
Chameleon:一个HTML/XML模板引擎。模仿ZPT(Zope页面模板)并优化速度。官方网站
Genshi:一个用于生成Web感知结果的Python模板工具。官方网站
Mako:用于Python平台的超快速和轻量级模板。官方网站
队列
处理事件和任务队列的库。
celery:基于分布式消息传递的异步任务队列/作业队列。官方网站
huey:一个小型多线程任务队列。官方网站
先生:先生队列 - 使用 Redis 和 gevent 的 Python 分布式工作线程任务队列。官方网站
rq:一个简单的 Python 作业队列。官方网站
simpleq:一个简单的、可无限扩展的、基于 Amazon SQS 的队列。官方网站
搜索
为数据编制索引和执行搜索查询的库和软件。
Django-haystack:Django模块化搜索。官方网站
elasticsearch-py:Elasticsearch的官方底层Python客户端。官方网站
elasticsearch-dsl-py:Elasticsearch的官方高级Python客户端。官方网站
solrpy:Solr的Python客户端。官方网站
Whoosh:一个快速的纯Python搜索引擎库。官方网站
新闻提要
用于创建用户活动的库。
django-activity-stream:从你的网站行为生成一个通用的活动流。官方网站
Stream-Framework:使用 Cassandra 和 Redis 创建动态提要和通知系统。官方网站
资源管理
用于管理、压缩和缩减网站资源的工具。
django-compressor:将链接和内联的JavaScript或CSS压缩到一个单独的缓存文件中。官方网站
Django-storages:用于Django自定义存储后端的工具集合。官方网站
Fanstatic:打包、优化并提供静态文件依赖项作为 Python 包。官方网站文件
传送带:一种驻留在后台的程序,用于发现文件并将其同步到 CDN、S3 和 FTP。官方网站
Flask-Assets:帮助您将 Web 资源集成到 Flask 应用程序中。 官方网站
jinja-assets-compressor:一个 Jinja 扩展,用于编译和压缩您的资源。官方网站
webassets:生成唯一的缓存 URL,用于打包、优化和管理静态资源。官方网站
缓存
缓存数据的库。
烧杯:可用于 Web 应用程序和独立 Python 脚本和应用程序的缓存和会话库。官方网站
django-cache-machine:Django模型的自动缓存和失效。官方网站
django-cacheops:ORM与自动造粒事件驱动的故障。官方网站
Django-Viewlet:具有额外缓存控制的渲染模板。官方网站dogpile.cache
:dogpile.cache是Beaker的下一代替代品,由同一作者开发。官方网站
HermesCache:具有基于标签的失效和狗堆效应保护的Python缓存库。官方网站
Johnny-Cache:Django 应用程序缓存框架。官方网站
pylibmc:libmemcached 接口的 Python 包装器。官方网站
电子邮件
用于发送和分析电子邮件的库。
django-celery-ses:使用 AWS SES 和 Celery 的 Django 电子邮件后端。官方网站
信封:供人类使用的电子邮件库。官方网站
侧卫:电子邮件地址和 MIME 解析库。官方网站
imbox:Python IMAP库。官方网站
inbox.py:Python SMTP服务器。官方网站
收件箱:开源电子邮件工具箱。官方网站
lamson:Python风格的SMTP应用程序服务器。官方网站
mailjet:Mailjet API实现,用于提供批量电子邮件,统计信息和其他功能。官方网站
marrow.mailer:一个高性能的可扩展邮件分发框架。官方网站
modoboa:一个邮件托管和管理平台,具有现代,简约的Web UI。官方网站
Pyzmail:创建、发送和解析电子邮件。官方网站
Talon:Mailgun库,用于提取信息和签名。官方网站yagmail
:yagmail是一个GMAIL/SMTP客户端,旨在使发送电子邮件尽可能简单。官方网站
国际化
用于国际化的库。
Babel:一个国际化的 Python 库。官方网站
韩语:韩国形态学图书馆。官方网站
网址处理
解析 URL 的库
furl:一个小型的Python库,可以更轻松地使用URL。官方网站
purl:一个简单的、不可变的 URL 类,具有用于查询和处理的简洁 API。官方网站
pyshorteners:一个纯粹的Python URL缩短库。官方网站
shorturl:生成短 URL 和类似 bit.ly 的短链的 Python 实现。官方网站
webargs:一个用于解析HTTP请求参数的库,内置了对流行Web框架的支持,包括Flask,Django,Bottle,Tornado和Pyramid。官方网站
网页处理
一个处理 HTML 和 XML 的库。
BeautifulSoup:以Python风格的方式迭代,搜索和修改HTML或XML。官方网站
漂白剂:基于白名单的 HTML 清理和文本链接库。官方网站
cssutils:一个用于Python的CSS库。官方网站
HTML5lib:一个标准兼容的库,用于解析和序列化HTML文档和片段。官方网站
lxml:一个非常快速,易于使用,功能齐全的库,用于处理HTML和XML。官方网站
MarkupSafe:为 Python 实现 XML/HTML/XHTML 标记安全字符串。官方网站
pyquery:一个用于解析HTML的库,类似于jQuery。官方网站
requests-html:用户友好的 Pythonic HTML 解析库。官方网站
解开:将 XML 文档转换为 Python 对象,使其易于访问。官方网站
xhtml2pdf: HTML/CSS to PDF 工具.官方网站
xmltodict:像 JSON 一样处理 XML。官方网站
" />
对网络站点的库进行爬网
Scrapy:一个快速而高级的屏幕抓取和Web捕获框架。官方网站
ScrapydWeb:用于Scrapyd集群管理的全功能Web UI,支持Scrapy日志分析和可视化,自动打包,计时器任务和电子邮件通知等功能。官方网站
COLA:分布式爬虫框架。官方网站
Demiurge:基于PyQuery的爬虫微框架。官方网站源分析器
:通用源分析器。官方网站
抓取:网站抓取框架。官方网站
MechanicalSoup:一个用于自动化与网站交互的Python库。官方网站
波西亚:刮擦的视觉爬行。官方网站
PySpider:一个强大的爬虫系统。官方网站
RoboBrowser:一个简单的Python风格的库,用于浏览网站,而无需单独的浏览器。官方网站
网页内容提取
用于网页内容提取的库。
运输:可以扩展的图像抓取工具。官方网站
html2text:将 HTML 转换为 Markdown 格式的文本。官方网站
LASSIE:用户友好的Web内容检索库。官方网站
micawber:一个小型的Web内容提取库,用于从URL中提取丰富的内容。官方网站
报纸:使用 Python 进行新闻提取、文章提取和内容管理。官方网站
opengraph:一个用于解析开放图协议的Python模块。官方网站
python-goose:HTML内容/文章提取器。官方网站
python-readability:arc90的可读性工具的Python高速端口。官方网站
清理:为混乱的数据世界带来理性。官方网站
sumy:自动汇总文本文件和 HTML 页面的模块。官方网站
textract:从任何格式的文档中提取文本,Word,PowerPoint,PDF等。官方网站
形式
执行表单操作的库。
变形:Python HTML表单生成库,灵感来自表单生成库。官方网站
django-bootstrap 3:Django with Bootstrap 3 集成。官方网站
django-crispy-forms:一个Django应用程序,让你以一种非常优雅和DRY(不要重复自己)的方式创建美丽的形式。官方网站
django-remote-forms:一个独立于平台的Django表单序列化工具。官方网站
WTForms:一个灵活的表单验证和渲染库。官方网站
WTForms-JSON:处理JSON数据的WTForms扩展。官方网站
数据验证
数据验证库。主要用于表单验证。
Cerberus:一个映射s验证器。支持多个规则,提供规范化功能,并且可以轻松地自定义为 Python 样式的模式定义。官方网站
漏勺:用于验证和反序列化从 XML、JSON、HTML 表单或其他同样简单的序列化数据中提取的数据的系统。官方网站
kmatch:一种用于匹配/验证/过滤Python字典的语言。官方网站
schema:用于验证 Python 数据结构的库。官方网站
原理图:数据结构验证。官方网站
Valideer:一个轻量级且可扩展的数据验证和适应库。官方网站
voluptuous:一个 Python 数据验证库。它主要是为了验证传递给Python的JSON,YAML和其他数据。官方网站
jsonschema:用于验证 JSON 数据的 JSON 模式的 python 实现。官方网站
反垃圾邮件技术
帮助您对抗电子垃圾的图书馆。
django-simple-captcha:一个简单的,高度可定制的Django应用程序,可将验证码添加到任何Django表单中。官方网站
django-simple-spam-blocker:一个简单的Django电子废物屏蔽工具。官方网站
标记
用于标记的库。
django-taggit:一个简单的Django标签工具。官方网站
“管理”面板
管理接口库。
Ajenti:您的服务器应得的管理面板。官方网站
django-suit:Django管理界面的替代品(仅免费用于非商业用途)。官方网站
django-xadmin:Django admin的替代品,具有许多不错的功能。官方网站
flask-admin:Flask的简单且可扩展的管理界面框架。官方网站
flower:用于实时监控芹菜集群和Web管理界面的工具。官方网站
Grappelli:Django管理界面的漂亮皮肤。官方网站
Wooey:一个Django应用程序,为Python脚本创建Web用户界面。官方网站
静态站点*敏*感*词*
静态站点*敏*感*词*是将文本和模板作为输入,然后输出HTML文件的软件。
鹈鹕:使用Markdown或ReST作为内容,使用Jinja 2作为主题。支持DVCS,Disqus。AGPL 许可证。官方网站
Cactus:为设计师设计的静态站点*敏*感*词*。官方网站
海德:基于Jinja2的静态站点*敏*感*词*。官方网站
尼古拉:一个静态的网站和博客构建器。官方网站
修补匠
:Tinkerer是一个由狮身人面像驱动的博客引擎/静态站点*敏*感*词*。官方网站
Lektor:一个易于使用的静态CMS和博客引擎。官方网站
过程
操作系统进程启动和通信库。
envoy:比 Python subprocess 模块更人性化。官方网站
sarge:子流程模块的另一种封装类型。官方网站
sh:一个完整的子进程替代库。官方网站
并发性和并行性
用于并发和并行操作的库。
多处理:(Python 标准库)基于进程的“线程”接口。官方网站
threading:(Python Standard Library)一个更高级别的线程接口。官方网站
eventlet:一个支持 WSGI 的异步框架。官方网站
gevent:一个使用greenlets的基于协程的Python Web库。官方网站
明天:用于生成异步代码的神奇装饰器语法实现。官方网站
UVLOOP:在libuv之上超快速实现异步事件循环。官方网站
网络
用于网络编程的库。
asyncio:(Python 标准库)异步 I/O、事件循环、协程和任务。官方网站
扭曲:事件驱动的网络引擎。官方网站
pulsar:事件驱动的并发框架。官方网站
柴油:基于Greenlet的事件I / O框架。官方网站
pyzmq:ZeroMQ 消息库的 Python 包装器。官方网站
Toapi:一个轻量级、简单、快速的 Flask 库,致力于为所有网站提供 API 服务。官方网站
txZMQ:基于扭曲的 ZeroMQ 消息库的 Python 包装器。官方网站
网络套接字
帮助您使用 WebSocket 的库。
AutobahnPython:对于Python,WebSocket和WAMP基于Twisted和asyncio。官方网站
Crossbar:开源统一应用程序路由(Websocket & WAMP for Python on Autobahn)。官方网站
django-socketio: WebSockets for Django.官方网站
WebSocket-for-Python:为Python 2/3和PyPy编写的WebSocket客户端和服务器库。官方网站
WSGI 服务器
与WSGI兼容的网络服务器
古尼角兽:预分叉,部分用C编写。 官方网站uwsgi
:uwsgi项目的目的是开发一套用C语言编写的用于构建托管服务的全栈工具。 官方网站
bjoern:异步,非常快,用C编写。
fapws3:异步(仅适用于Web端),用C编写。
meinheld:异步,部分用C编写。 官方网站
Netius:异步的,非常快。官方网站
粘贴:多线程,稳定,经过验证和验证。官方网站
火箭:多线程。官方网站
女服务员:多线程,驱动金字塔框架。官方网站
Werkzeug:一个WSGI工具库,可以驱动Flask,可以很容易地嵌入到你的项目中。官方网站
RPC 服务器
与 RPC 兼容的服务器。
SimpleJSONRPCServer:这个库是JSON-RPC规范的实现。官方网站
SimpleXMLRPCServer:(Python Standard Library)Simple XML-RPC 服务器实现,单线程。官方网站zeroRPC
:zeroRPC是基于ZeroMQ和MessagePack的灵活RPC实现。官方网站
密码学
密码学:此包旨在为 Python 开发人员提供密码学基础知识和方法。官方网站
hashids:在 Python 中实现 hashids。官方网站
Paramiko:SSHv2协议的Python(2.6+,3.3+),提供客户端和服务器端功能。官方网站
Passlib:安全密码存储/哈希库,官方网站
PyCrypto:Python cryptography toolbox。官方网站
PyNacl:用于网络和加密(NaCl)库的Python绑定。官方网站
图形用户界面
用于创建图形用户界面程序的库。
curses:用于创建终端图形用户界面的内置 ncurses 包。
enaml:使用类似 QML 的声明语法来创建漂亮的用户界面。官方网站
kivy:用于创建可在Windows,Linux,Mac OS X,Android和iOS平台上运行的自然用户交互(NUI)应用程序的库。官方网站
pyglet:一个跨平台的Python窗口和多媒体库。官方网站
PyQt:Qt的Python绑定,一个支持Qt v4和Qt v5的跨平台用户界面框架。官方网站
PySide:支持Qt v4的跨平台用户界面框架Qt的Python绑定。官方网站Tkinter
:Tkinter 是 Python GUI 事实上的标准库。官方网站
Toga:Python 原生、操作系统原生 GUI 工具包。官方网站
urwid:用于创建支持组件、事件、丰富色彩等的终端 GUI 应用程序的库。官方网站
wxPython:wxPython是wxWidgets C++类库和Python语言的混合体。官方网站
PyGObject:Python bindings for GLib/GObject/GIO/GTK+ (GTK+3)。官方网站
福克斯
:Flexx是一个仅限Python的工具集,用于创建GUI程序,使用Web技术进行界面呈现。官方网站
游戏开发
很棒的游戏开发库。Cocos2d
:Cocos2d是一个用于开发2D游戏、样本和其他图形/交互式应用程序的框架。基于皮格莱特。官方网站
Panda3D:由迪士尼开发并由卡内基梅隆娱乐技术中心维护的3D游戏引擎。用C++编写,完全封装用于Python。官方网站
皮博梅
:Pygame是一组用于编写游戏的Python模块。官方网站
PyOgre:绑定到Ogre 3D渲染引擎的Python,可用于开发任何3D应用程序,如游戏和模拟器。官方网站
PyOpenGL:OpenGL的Python绑定及其相关的API。官方网站
PySDL2:基于 ctypes 的 SDL2 库的封装。官方网站
RenPy:一个视觉小说引擎。官方网站
原木
用于生成和操作日志的库。
logging:(Python Standard Library)为 Python 提供日志记录功能。官方网站
日志:日志记录库的替代方法。官方网站
Eliot:为复杂和分布式系统创建日志。官方网站
Raven:Sentry 的 Python 客户端。官方网站
哨兵:实时记录和采集
日志的服务器。官方网站
测试
执行代码库测试并生成测试数据的库。
测试框架
unittest:(Python Standard Library)单元测试框架。官方网站nose
:nose扩展了UNITTEST的功能。官方网站
contexts:Python 3.3+ 的 BDD 框架。灵感来自 C# – Machine.Specification。官方网站假设
:假设是基于高级快速检查样式功能的测试库。官方网站
mamba:Python的终极测试工具,BDD的拥护者。官方网站
PyAutoGUI
:PyAutoGUI 是一个用户友好的跨平台 GUI 自动化测试模块。官方网站
pyshould:基于PyHamcrest的Should风格的断言。官方网站
pytest:一个成熟的,功能齐全的Python测试工具。官方网站
绿色:干净、多彩的测试工具。官方网站
pyvows:受Vows.js启发的BDD风格的测试工具。官方网站
机器人框架:通用的自动化测试框架。官方网站
网络测试
Selenium:SeleniumWebDrivers的Python绑定。官方网站
locust:用Python编写的可扩展用户负载测试工具。官方网站
sixpack:一个与语言无关的A / B测试框架。官方网站
SPLINTER:一个开源的Web应用程序测试工具。官方网站
模拟测试
mock:(Python Standard Library)一个用于锻造测试的库。官方网站
doublex:一个强大的Python双打测试框架。官方网站
冻结*敏*感*词*:通过伪造日期模块生成不同的时间。官方网站
httmock:一个为Python 2.6+和3.2+生成伪造请求的库。官方网站
httpretty:Python的HTTP请求模拟工具。官方网站
responses:一个通用库,用于在 Python 中伪造请求库。官方网站
VCR.py:在测试中记录和重播 HTTP 交互。官方网站
对象工厂
factoryboy:Python测试夹具的替代库。官方网站
mixer:另一个测试夹具的替代库,支持Django,Flask,SQLAlchemy,Peewee等。官方网站
modelmommy:为 Django 测试创建随机固件。官方网站
代码覆盖率覆盖率
:代码覆盖率度量。官方网站
Codecov:一种代码覆盖率测试工具,为开源项目提供免费的代码覆盖率测试服务。官方网站
伪数据
faker:用于生成伪数据的 Python 库。官方网站
fake2db:伪数据库*敏*感*词*。官方网站
雷达:生成随机日期/时间。官方网站
错误处理
FuckIt .py:FuckIt.py 使用最先进的技术来确保您的 Python 代码继续运行,无论它是对还是错。官方网站
代码分析和 lint 工具
用于代码分析、解析和操作代码库的库和工具。
代码分析
coala:独立于语言且易于扩展的代码分析应用程序。官方网站
code2flow:将你的Python和JavaScript代码转换为流程图。官方网站
pycallgraph:此库可视化Python应用程序的流程(调用图)。官方网站
pysonar2:Python 类型推断和检索工具。官方网站
棉绒工具
Flake8:模块化源代码检查工具:pep8,pyflakes等官方网站
Pylint:一个完全可定制的源分析器。官方网站
YAPF:Google的Python代码格式化程序。官方网站
pylama:Python 和 JavaScript 的代码审查工具。官方网站
代码格式
autopep8:自动格式化 Python 代码以符合 PEP8 规范。官方网站
black:一个承诺的 Python 代码格式化程序。官方网站
调试工具
用于代码调试的库。
调试器
ipdb:IPython 启用 PDB。官方网站
pudb:全屏、基于控制台的 Python 调试器。官方网站
pyringe:一种调试器,可以将代码附加和注入到Python进程中。官方网站
wdb:通过 WebSocket 工作的单一 Web 调试器。官方网站
winpdb:具有图形用户界面的 Python 调试器,允许基于 rpdb2 进行远程调试。官方网站
django-debug-toolbar:显示 Django 的各种调试信息。官方网站
" />
django-devserver:Django正在运行的服务器的替代品。官方网站
flask-debugtoolbar:django-debug-toolbar 的 flask 版本。官方网站
性能分析器
线刻画器:逐行分析。官方网站
内存性能分析器:监视 Python 代码的内存使用情况。官方网站,内存
性能分析:交互式 Python 性能分析工具。官方网站
其他
pyelftools:解析和解析 ELF 文件和 DWARF 调试信息。官方网站
python-statsd:用于statsd服务器的Python客户端。官方网站
科学计算和数据分析
用于科学计算和数据分析的库。
astropy:一个天文学Python库。官方网站
bcbio-nextgen:该工具箱为全自动、高通量测序分析提供了最佳实践处理。官方网站
BCCB:生物分析相关代码的集合。官方网站Biopython
:Biopython是一组免费使用的生物计算工具。官方网站
火焰:NumPy和Pandas的大数据接口。官方网站
cclib:用于解析和解释计算化学软件包输出的库。官方网站
NetworkX:专为复杂网络设计的高性能软件。官方网站
Neupy:执行和测试各种不同的人工神经网络算法。官方网站
Numba:Python JIT(及时)编译器,Python for science,由Cython和NumPy的开发人员开发。官方网站
NumPy:使用Python进行科学计算的基本软件包。官方网站
Open Babel:用于描述各种化学数据的化学工具箱。官方网站
开放挖掘:使用Python(Pandas Web界面)挖掘商业智能(BI)。官方网站
橙色:通过可视化编程或 Python 脚本进行数据挖掘、数据可视化、分析和机器学习。官方网站
Pandas:提供高性能、易用的数据结构和数据分析工具。官方网站
派迪
PyDy是Python Dynamics的首字母缩写,用于帮助基于NumPy,SciPy,IPython和matplotlib的动态运动建模工作流程。官方网站
PyMC:马尔可夫链蒙特卡罗采样工具。官方网站
RDKit:化学信息学和机器学习软件。官方网站
SciPy:一个基于Python的开源软件生态系统,用于数学,科学和工程。官方网站统计
模型:统计建模和计量经济学。官方网站
SymPy:一个用于符号数学的Python库。官方网站
zipline:一个 Python 算法交易库。官方网站贝叶斯信念网络
:一个优雅的贝叶斯信念网络框架。官方网站
数据可视化
用于数据可视化的库。看:。
matplotlib:一个Python 2D绘图库。官方网站
bokeh:Python 中的交互式网页绘图。官方网站
ggplot:ggplot2 提供给 R 的 API 的 Python 版本。
plotly:一个与Python和matplotlib一起使用的Web绘图库。官方网站
pyecharts:基于百度Echarts的数据可视化库。官方网站
pygal:Python SVG图表创建工具。官方网站
pygraphviz:Graphviz 的 Python 接口。官方网站
PyQtGraph:交互式实时 2D/3D/图像渲染和科学/工程组件。官方网站
SnakeViz:一个基于浏览器的工具,用于查看Python的cProfile模块的输出。官方网站
vincent:用于将Python转换为Vega语法的转换工具。官方网站
VisPy:基于OpenGL的高性能科学可视化工具。官方网站
计算机视觉
计算机视觉库。
OpenCV:开源计算机视觉库。官方网站
pyocr:镶嵌和楔形文字的包装库。官方网站
pytesseract:Google Tesseract OCR的另一个包装库。官方网站
SimpleCV:用于创建计算机视觉应用程序的开源框架。官方网站
机器学习
机器学习库。另请参阅:
Caffe:一个 Caffe python 接口。官方网站
Caffe2:一个轻量级、模块化和可扩展的深度学习框架。官方网站
螃蟹:一个灵活、快速的推荐引擎。官方网站
Gensim:用户友好的主题建模库。官方网站
hebel:GPU 加速的深度学习库。官方网站
Keras:一个以tensorflow/theano/CNTK为后端的深度学习包装库,你可以快速开始使用神经网络。官方网站
MXNet:一个高效灵活的深度学习框架。官方网站
NuPIC:智能计算Numenta平台。官方网站
模式:Python 网络挖掘模块。官方网站
PyBrain:另一个Python机器学习库。官方网站
pydeep:Python 深度学习库。官方网站
Pylearn2:一个基于Theano的机器学习库。官方网站
python-recsys:用于实现推荐系统的Python库。官方网站
Pytorch:具有张量和动态神经网络以及强大的GPU加速功能的深度学习框架。官方网站
scikit-learn:一个基于SciPy构建的机器学习Python模块。官方网站
skflow:TensorFlow的简化接口(模仿scikit-learn)。官方网站
TensorFlow:谷歌开源的最受欢迎的深度学习框架。官方网站
Theano:一个快速的数字计算库。官方网站
vowpalporpoise:Python wrapper for lightweight Vowpal Wabbit。官方网站
MapReduce
MapReduce框架和库。
dpark:Spark的Python克隆,一个类似MapReduce的框架。官方网站
dumbo:这个Python模块使编写和运行Hadoop程序变得容易。官方网站
Luigi:此模块可帮助您为批处理作业构建复杂的管道。官方网站
mrjob:在Hadoop或Amazon Web Services上运行MapReduce作业。官方网站
PySpark:Spark的Python API。官方网站
streamparse:为事实数据流运行 Python 代码。Apache Storm 集成在一起。官方网站
函数式编程
使用 Python 进行函数式编程。
CyToolz:Cython实现Toolz:高性能功能工具。官方网站
fn.py:Python中的函数式编程:实现了一些功能,这些功能享受了函数式编程的缺失方面。官方网站功能
:酷炫而有用的功能工具。官方网站
Toolz:一组用于迭代器、函数和字典的函数式编程工具。官方网站
第三方接口
用于访问第三方 API 的库。另请参阅:Python API 包装器和库列表。
apache-libcloud:一个为各种云设计的Python库。官方网站
boto:Amazon Web Services 的 Python 接口。官方网站
Django-WordPress:Django的WordPress模型和视图
facebook-sdk:Facebook平台Python SDK的官方网站
脸皮
:Facepy使与Facebook的Graph API交互变得更加容易。官方网站
gmail:Gmail的Python界面。官方网站
google-api-python-client:用于Python的Google APIs客户端库。官方网站
gspread:Google Spreadsheets的Python API官方网站
twython:Twitter API的封装。官方网站
开发运营工具
用于开发运营的软件和库。
Ansible:一个非常简单的IT自动化平台。官方网站
SaltStack:基础设施自动化和管理系统。官方网站
OpenStack:用于构建私有云和公共云的开源软件。官方网站
Docker Compose:一个使用 Docker 的快速、解耦的开发环境。官方网站
Fabric:一个简单的Python风格的工具,用于远程执行和部署。官方网站
美食:为织物提供一系列高级功能。官方网站
Fabtools:用于编写很棒的Fabric文件的工具。官方网站
gitapi:Git 是纯粹的 Python API。官方网站
hgapi:Mercurial的纯Python API。官方网站
honcho:Foreman的Python克隆,用于管理基于Procfile的应用程序。官方网站pexpect:在伪终端中控制交互式
程序,就像在伪终端中控制交互式程序一样,就像GNU期望一样。官方网站
psutil:跨平台流程和系统工具的模块。官方网站
主管:UNIX的过程控制系统。官方网站
任务调度
任务计划库。
APSscheduleduler:轻量级但功能强大的进程内任务调度,允许您调度功能。官方网站
django-schedule:一个Django调度应用程序。官方网站
Doit:一个任务执行和构建工具。官方网站
gunnery:具有Web界面的分布式系统使用的多用途任务执行工具。官方网站
Joblib:一组为 Python 提供轻量级作业管道的工具。官方网站
计划:在上帝的帮助下编写crontab文件。官方网站
schedule:用户友好的 Python 任务调度库。官方网站
Spiff:使用纯Python实现的强大工作流引擎。官方网站
TaskFlow:一个一致且可靠的Python库,可让您轻松执行任务。AirFlow:Airflow是一家开源Airbnb公司,是一个工作流分发管理系统,通过定向无环图管理任务流程,设置任务依赖关系和时间调度。官方
外部功能接口
使用外部函数接口的库。
cffi:用于调用 C 代码的外部函数接口。官方网站
ctypes:(Python Standard Library)用于调用 C 代码的外部函数接口。官方网站
PyCUDA:Nvidia CUDA API的包装器。官方网站
SWIG:简化的封装和接口*敏*感*词*。官方网站
高性能
使 Python 更快的库。
Cython:优化的Python静态编译器。使用类型混合将 Python 编译为 C 或 C++ 模块,以获得巨大的性能提升。官方网站
PeachPy:嵌入在Python中的x86-64汇编器。可以用作Python的内联汇编器,也可以用作Windows,Linux,OS X,Native Client或Go的独立汇编器。官方网站
PyPy:使用Python实现的Python。解释器使用黑魔法来加速Python,并且不需要额外的类型信息。官方网站
Pyston:使用LLVM和现代JIT技术构建的Python实现,目标是良好的性能。官方网站
Stackless Python:Python的增强版本。官方网站
微软的Windows平台
蟒
在Windows平台上编程。Python
(x,y):用于科学应用的 Python 发行版,基于 Qt 和 Spyder。官方网站
pythonlibs:用于Windows平台的非官方Python扩展二进制包。官方网站
PythonNet:Python 与 .NET 公共语言运行时 (CLR) 的集成。官方网站
PyWin32:适用于Windows的Python扩展。官方网站
WinPython:Windows 7/8系统下的可移植开发环境。官方网站
网络可视化和 SDN
用于网络可视化和SDN(软件定义网络)的工具和库。
Mininet:一个流行的Web模拟器和用Python编写的API。官方网站
POX:基于Python的软件定义网络应用程序(如OpenFlow SDN控制器)的开源开发平台。官方网站
Pyretic:热门 SDN 编程语言的成员,为网络交换机和*敏*感*词*提供强大的抽象功能。官方网站
SDX平台:基于SDN的IXP实现,影响Mininet,POX和Pyretic。官方网站
NRU:基于组件的软件定义网络框架。官方网站
硬件
用于对硬件进行编程的库。
ino:一个操作Arduino的命令行工具。官方网站
Pyro:Python机器人编程库。官方网站
PyUserInput:控制鼠标和键盘的跨平台模块。官方网站
scapy:一个用于操作数据包的出色库。官方网站
wifi:一个Python库和命令行工具,用于在Linux平台上操作WiFi。官方网站
Pingo:Pingo为Raspberry Pi,pcDuino,Intel Galileo等设备编程提供了统一的API。官方网站
兼容性
帮助从 Python 2 迁移到 Python 3 的库。
Python-Future:这是Python 2和Python 3之间缺少的兼容层。官方网站
Python-Modernize:Modernize Python 代码,以便最终迁移到 Python 3。官方网站
六:Python 2 和 3 兼容性工具。官方网站
杂项
不属于上述任何类别但非常有用的库。
blinker:一个快速的Python进程内信号/事件分发系统。官方网站
ItsDangerous:一组辅助工具,用于将受信任的数据传递到不受信任的环境中。官方网站
pluginbase:一个简单但非常灵活的Python插件系统。官方网站
Pychievements:一个用于创建和跟踪成就的Python框架。官方网站
Tryton:一个通用的商业框架。官方网站
算法和设计模式
Python 实现的算法和设计模式。
算法:一个 Python 算法模块。官方网站
python-patterns:Python 设计模式的集合。官方网站
sortedcontainers:SortedList、SortedDict 和 SortedSet 类型的快速、纯 Python 实现。官方网站
蟒
:使用 Python 实现的完整算法集合。官方网站
编辑器插件
编辑器和 IDE 的插件
Emacs
Elpy:Emacs Python开发环境。官方网站
崇高的文字
SublimeJEDI:一个Sublime Text插件,用于使用令人敬畏的自动完成库Jedi。官方网站
蟒蛇
:Anaconda 将你的 Sublime Text 3 变成了一个功能齐全的 Python IDE。官方网站
维姆
YouCompleteMe:介绍基于 Jedi 的 Python 自动完成引擎。官方网站
Jedi-vim:将 Vim 和 Jedi 自动完成库绑定到自动完成 Python。官方网站
Python-mode:一个多合一的插件,将Vim变成Python IDE。官方网站
视觉工作室
PTVS:Visual Studio 的 Python 工具。官方网站
集成开发环境
流行的 Python 集成开发环境。
PyCharm:由JetBrains开发的商业Python IDE。还提供免费的社区版本。官方网站
LiClipse:一个基于 Eclipse 的免费多语言 IDE。使用 PyDev 支持 Python。官方网站
Spyder:开源Python IDE。官方网站
自动聊天工具
用于开发聊天机器人的库
Errbot:用于实现自动聊天工具的最简单和最受欢迎的聊天机器人。官方网站
财务数据
Tushare:一种Python开源数据,可以免费提供股票、基金、期货、港股等金融数据。官方网站
Ta-Lib:财务数据技术分析库,可以根据原创
财务数据计算各种技术指标,计算性能比较优异。官方网站
持续集成
另请参阅:
Travis CI:一种流行的工具,为您的开源和私有项目提供持续集成服务。(仅支持 GitHub)官方网站
CircleCI:一种持续集成工具,可实现非常快速的并行测试。(仅支持 GitHub)官方网站
Vexor CI:用于持续集成私有应用程序的工具,提供按分钟付费支持。官方网站
Wercker:基于 Docker 平台,用于构建和部署微服务。官方网站
代码质量
Codacy:自动代码审查,以更快地发布高质量代码。它对开源项目是免费的。官方网站
量化代码:数据驱动、自动化、持续的代码审查工具。官方网站
原创
链接
汇总:水泽-信息收集自动化工具
郑重声明:本文涉及的技术、思想和工具仅供学习交流,以安全为目的,任何人不得用于非法用途或营利目的,否则后果自负. 0x01 简介
作者:Ske;团队:0x727,未来一段时间团队成员将陆续开源工具,地址:https://github.com/0x727
定位:协助红队人员快速搜集信息,映射目标资产,寻找薄弱环节语言:python3 开发功能:一站式服务,只需输入根域名即可全方位搜集相关资产,检测漏洞。也可以输入多个域名、C段IP等,具体情况见下文。调用:脚本借用ksubdomain爆破子域名和theHarvester采集
邮箱,感谢ksubdomain和theHarvester作者 0x02 安装 为了避免踩坑,建议安装在如下环境
chmod 777 build.sh<br style="outline: 0px;max-width: 100%;visibility: visible;box-sizing: border-box !important;overflow-wrap: break-word !important;" />./build.sh
python3 水泽.py -h
0x03 效果展示
顶级域名备案审核
不是泛解析,调用ksubdomain爆破子域名
theHarvest获取电子邮件
第三方数据接口->获取子域名
github -> 从github获取子域名,将查询结果保存到txt,匹配关键字获取敏感信息
百度和必应爬虫
证书
子域友链
解析子域名A记录,检测是否为CDN,整理出C段IP
网络空间搜索引擎:Fofa 和 Shodan
IP反查域名
" />
生存检测
漏洞检测
扫描结果保存在 excel 文件中
excel内容如下
顶级域名备案审核
邮件
Github 敏感信息
爬虫
证书
子域 A 记录和 CDN
动态链接和后台地址
网络空间搜索引擎
ip回查域名
生存网站标题
指纹和漏洞
相关域名和C段
" />
0x04 POC 编写POC模板文件示例:Plugins/Vul/Web/__template__.py 只需要在run_detect方法中调用POC利用方法即可。0x05 使用方法语法函数
python3 水泽.py -d
采集
单个根域名资产
python3 水泽.py --domainFile domain.txt
批量运行根域名列表
python3 水泽.py -c 192.168.1.0,192.168.2.0,192.168.3.0
采集
C 段资产
python3 水泽.py -f url.txt
检测url中的网站漏洞
python3 ShuiZe.py --fofaTitle XXX大学
从fofa采集
名为XXX大学的资产,然后检测漏洞
python3 水泽.py -d --justInfoGather 1
只采集
信息,不检测漏洞
python3 水泽.py -d --ksubdomain 0
不调用 ksubdomain 的 Blast 子域
0x06 实现原理 调用harvester -> 获取子域名和邮箱列表 第三方数据接口 -> 获取github子域名 -> 从github获取子域名,并将查询结果保存到txt - 获取敏感信息 百度和Bing爬虫-> 获取目标背景和其他地址('inurl:admin'、'inurl:login'、'inurl:system'、'inurl:register'、'inurl:upload'、'background'、'system'、'login' )证书 -> 获取目标关联域名子域友链 -> 获取未爆破子域名和未收深度域名
整理上面ip反向搜索域名前面得到的所有子域名,得到相关资产的子域名,整理出所有的子域名和IP
组织所有资产检测漏洞
其他功能
结果显示:
完整流程图:
0x07 项目地址