资产侦察之灯塔系统-ARL 快速侦察相关资产

资产侦察之灯塔系统-ARL 快速侦察相关资产

资产灯塔,不仅仅是域名收集

简介

ARL(Asset Reconnaissance Lighthouse)资产侦察灯塔系统旨在快速侦察与目标关联的互联网资产,构建基础资产信息库。 协助甲方安全团队或者渗透测试人员有效侦察和检索资产,以攻击者视角持续探测资产风险,协助用户时刻洞察资产动态,掌握安全防护薄弱点,快速收敛攻击面。

在开始使用之前,请务必阅读并同意免责声明中的条款,否则请勿下载安装使用本系统。

特性

  • 域名资产发现和整理
  • IP/IP 段资产整理
  • 端口扫描和服务识别
  • WEB 站点指纹识别
  • 资产分组管理和搜索
  • 任务策略配置
  • 计划任务和周期任务
  • Github 关键字监控
  • 域名/IP 资产监控
  • 站点变化监控
  • 文件泄漏等风险检测
  • nuclei PoC 调用

系统要求

目前暂不支持Windows。Linux和MAC建议采用Docker运行,系统配置最低2核4G
由于自动资产发现过程中会有大量的的发包,建议采用云服务器可以带来更好的体验。

安装docker

1、kali版本要在3.10以上,使用命令查看kali内核

uname -a

2、添加Docker官方的GPG密钥

curl -fsSL https://download.docker.com/linux/debian/gpg | sudo apt-key add -

3、更新源(权限不足,请用sudo su命令)

echo 'deb https://download.docker.com/linux/debian stretch stable'> /etc/apt/sources.list.d/docker.list

4、导入证书

apt-get install apt-transport-https ca-certificates curl gnupg2 software-properties-common

5、更新源

echo > /etc/apt/sources.list
#或
vim /etc/apt/sources.list

添加如下源

阿里云

deb http://mirrors.aliyun.com/kali kali-rolling main non-free contrib
deb-src http://mirrors.aliyun.com/kali kali-rolling main non-free contrib


6、系统更新

apt-get update && apt-get upgrade && apt-get dist-upgrade

7、重新导入证书

apt-get install apt-transport-https ca-certificates curl gnupg2 software-properties-common

8、安装docker

apt-get install docker docker-compose
sudo apt install docker.io

9、检查安装是否成功

docker -v

10、启动docker

service docker start

11、设置开机自启动

systemctl enable docker

Docker 启动

git clone https://github.com/TophantTechnology/ARL
cd ARL/docker/
docker volume create arl_db
docker-compose pull
docker-compose up -d 

或者直接下载docker-compose配置文件启动

mkdir docker_arl
wget -O docker_arl/docker.zip https://github.com/TophantTechnology/ARL/releases/download/v2.5.3/docker.zip
cd docker_arl
unzip -o docker.zip
docker-compose pull
docker volume create arl_db
docker-compose up -d

Ubuntu 下可以直接执行 如下命令安装相关依赖

apt-get install docker.io docker-compose -y 

详细说明可以参考: Docker 环境安装 ARL

截图

登录页面
默认端口5003 (https), 默认用户名密码admin/arlpass

资产侦察之灯塔系统-ARL 快速侦察相关资产

任务页面

资产侦察之灯塔系统-ARL 快速侦察相关资产

子域名页面

资产侦察之灯塔系统-ARL 快速侦察相关资产

站点页面

资产侦察之灯塔系统-ARL 快速侦察相关资产

资产监控页面

资产侦察之灯塔系统-ARL 快速侦察相关资产

详细说明可以参考:资产分组和监控功能使用说明

策略页面

资产侦察之灯塔系统-ARL 快速侦察相关资产

筛选站点进行任务下发

资产侦察之灯塔系统-ARL 快速侦察相关资产

详细说明可以参考: 2.3-新添加功能详细说明

计划任务

资产侦察之灯塔系统-ARL 快速侦察相关资产

详细说明可以参考: 2.4.1-新添加功能详细说明

GitHub 监控任务

资产侦察之灯塔系统-ARL 快速侦察相关资产

任务选项说明

编号选项说明
1任务名称任务名称
2任务目标任务目标,支持IP,IP段和域名。可一次性下发多个目标
3域名爆破类型对域名爆破字典大小, 大字典:常用2万字典大小。测试:少数几个字典,常用于测试功能是否正常
4端口扫描类型ALL:全部端口,TOP1000:常用top 1000端口,TOP100:常用top 100端口,测试:少数几个端口
5域名爆破是否开启域名爆破
6DNS字典智能生成根据已有的域名生成字典进行爆破
7域名查询插件已支持的数据源为12个,alienvaultcertspotter,crtsh,fofa,hunter 等
8ARL 历史查询对arl历史任务结果进行查询用于本次任务
9端口扫描是否开启端口扫描,不开启站点会默认探测80,443
10服务识别是否进行服务识别,有可能会被防火墙拦截导致结果为空
11操作系统识别是否进行操作系统识别,有可能会被防火墙拦截导致结果为空
12SSL 证书获取对端口进行SSL 证书获取
13跳过CDN对判定为CDN的IP, 将不会扫描端口,并认为80,443是端口是开放的
14站点识别对站点进行指纹识别
15搜索引擎调用利用搜索引擎搜索下发的目标爬取对应的URL和子域名
16站点爬虫利用静态爬虫对站点进行爬取对应的URL
17站点截图对站点首页进行截图
18文件泄露对站点进行文件泄露检测,会被WAF拦截
19Host 碰撞对vhost配置不当进行检测
20nuclei 调用调用nuclei 默认PoC 对站点进行检测 ,会被WAF拦截,请谨慎使用该功能

配置参数说明

Docker环境配置文件路径 docker/config-docker.yaml

配置说明
CELERY.BROKER_URLrabbitmq连接信息
MONGOmongo 连接信息
QUERY_PLUGIN域名查询插件数据源Token 配置
GEOIPGEOIP 数据库路径信息
FOFAFOFA API 配置信息
DINGDING钉钉消息推送配置
EMAIL邮箱发送配置
GITHUB.TOKENGITHUB 搜索 TOKEN
ARL.AUTH是否开启认证,不开启有安全风险
ARL.API_KEYarl后端API调用key,如果设置了请注意保密
ARL.BLACK_IPS为了防止SSRF,屏蔽的IP地址或者IP段
ARL.PORT_TOP_10自定义端口,对应前端端口测试选项
ARL.DOMAIN_DICT域名爆破字典,对应前端大字典选项
ARL.FILE_LEAK_DICT文件泄漏字典
ARL.DOMAIN_BRUTE_CONCURRENT域名爆破并发数配置
ARL.ALT_DNS_CONCURRENT组合生成的域名爆破并发数
PROXY.HTTP_URLHTTP代理URL设置

忘记密码重置

当忘记了登录密码,可以执行下面的命令,然后使用 admin/admin123 就可以登录了。

docker exec -ti arl_mongodb mongo -u admin -p admin
use arl
db.user.drop()
db.user.insert({ username: 'admin',  password: hex_md5('arlsalt!@#'+'admin123') })

源码安装

仅仅适配了 centos 7 ,且灯塔安装目录为/opt/ARL 如果在其他目录可以创建软连接,且安装了四个服务分别为arl-webarl-workerarl-worker-githubarl-scheduler

wget https://raw.githubusercontent.com/TophantTechnology/ARL/master/misc/setup-arl.sh
chmod +x setup-arl.sh
./setup-arl.sh

Docker 环境安装

仅仅适配了 centos 7 ,且灯塔安装目录为/opt/ARL

wget https://raw.githubusercontent.com/TophantTechnology/ARL/master/misc/setup-docker-arl.sh
chmod +x setup-docker-arl.sh
./setup-docker-arl.sh

FAQ

请访问如下链接FAQ

ARL 资产灯塔系统安装和使用文档

tophanttechnology.github.io/ARL-doc/

项目地址

GitHub:
https://github.com/TophantTechnology/ARL

使用截图

资产侦察之灯塔系统-ARL 快速侦察相关资产
资产侦察之灯塔系统-ARL 快速侦察相关资产

注意事项

默认情况下该工具无法扫描如下三类域名

edu.cn
org.cn
gov.cn

解决办法:

打开config-docker.yaml文件注释掉这三个域名

转载请注明出处及链接

Leave a Reply

您的电子邮箱地址不会被公开。 必填项已用 * 标注