### 以下内容来自官方文档
#### **1. 软件架构和关系**
**1. 1 CodeQL能干什么?**
> GitHub出品,codeql.github.com。CodeQL是语义代码分析引擎,可以像查询数据库一样查询代码,编写查询以查找漏洞的《所有变体》,从而消除它,分享查询也可以帮助别人这样做。tip:也可以用别人的查询帮助自己。
> 使用LGTM.com上的CodeQL查询控制台,对流行的开源代码库运行实际查询。tip:用github代码演练
**1.2 什么是LGTM?**
> 用户查找0day漏洞和放置关键漏洞的代码分析平台,对开源项目是完全免费的
#### **2. 技术细节**
**CodeQL**
> 在CodeQL中,代码被视为数据。安全漏洞、错误和其他错误被《建模》,可以针对从代码中提取的数据库执行查询,可以运行标准查询也可以自定义分析。
**变异分析**
> 变体分析是使用一直的安全漏洞作为种子,在代码中发现类似问题的过程,使用CodeQL查询代码是执行变体分析的最有效方式。可以使用CodeQL查询来识别种子漏洞,或通过编写自定义的CodeQL查询来查找新漏洞。然后开发和迭代查询,以自动查找传统手动技术可能遗漏的同一错误逻辑变体。
2.1 支持的语言和框架
[CodeQL 支持的语言和框架](https://codeql.github.com/docs/codeql-overview/supported-languages-and-frameworks/)
2.2 CodeQL工具
> GitHub提供了CodeQL命令行接口和 基于VS Code的CodeQL插件,用于在开源代码库上执行CodeQL分析。
CLI
> CodeQL命令行接口主要用于创建用户安全研究的数据库。您可以直接从命令行或使用VS Code扩展查询CodeQL数据库。
VC Code扩展
> 使用VS Code扩展分析CodeQL数据库,该扩展为编写和用户自定义查询以及查看结果提供了增强的环境。
#### **3. CodeQL分析的三个步骤**
> 1. 准备代码,通过CodeQL创建数据库
> 2. 对数据库运行CodeQL查询
> 3. 解释查询结果
**3.1 数据库创建**
> 为了创建数据库,CodeQL首先提取代码库中每个源文件的单个关系表示
对于编译语言
> 通过监视正常的构建过程来工作。每次调用编译器来处理源文件是,都会制作该文件的副本,并收集有关源代码的所有相关信息。这包括有关抽象语法书的句法数据和有关名称绑定和类型信息的语义数据。
对于解释语言
> 提取器直接在元马上运行,解析依赖关系以提供代码库的准确表示。
> CodeQL支持的每种语言都有一个提取器,以确保提取过程尽可能准确。对于多语言代码库,数据库一次生成一种语言。
> 提取后,分析所需要的所有数据(关系数据、复制的源文件和特定语言的数据库模式,它指定数据中的相互关系),被导入到一个目录中,称为CodeQL数据库
> tip: 基于语义与句法的Java类库检索方法与系统。
**3.2 查询结果**
> 最后一步将查询执行期间产生的结果转换为源代码上下文中更有意义的形式。也就是说,结果的解释方式突出了查询旨在发现的潜在问题。
> 查询包括指示应如何解释结果的元数据属性。例如,某些查询在代码中的单个位置显示为一条简单的消息。其他则显示一系列代表数据流或控制流路径上的步骤的位置,以及解释结果重要性的消息。没有元数据的查询不会被解释——他们的结果作为表格数据而不显示在源代码中。
> Question:数据流、控制流是什么?
> 在解释后,结果被输出用于代码审查和分类。在CodeQL for Visual Studio Code中,解释的查询会自动显示在源代码中。CodeQL CLI生成的结果可以输出为多种不同格式,以供不同工具使用。
#### **4. CodeQL packs和QL packs区别**
> CodeQL包:CodeQL包《**使用CodeQL CLI创建的**》,用于创建、依赖、发布和运行CodeQL查询和库。
> QL包: QL包用于《**组织**》CodeQL分析中使用的文件。他们包括查询、库文件、查询套件和重要元数据。
**4.1 关于CodeQL packs**
> CodeQL包管理(新项目,和CodeQL不同)功能目前为测试版本提供,Beta版本期间使仅可以使用GitHub
> CodeQL包用户创建、共享、依赖和运行CodeQL查询和库,可以发布自己的CodeQL包,也可以下载他人创建的包。CodeQL包包含查询、库文件、查询套件和元数据。
> CodeQL包有两种类型:查询包和库包
> 查询旨在运行。打不查询包时,该包包含所有传递依赖项和编译缓存。这确保保重查询的一致和高效执行
> 库包旨在提供查询宝(或其他库包)使用,并不包含查询本身。库未编译,并且在发布包时不包含编译缓存
> 可以使用CodeQL CLI中的包管理命令来创建CodeQL包、向包添加依赖项以及安装或更新依赖项。
CodeQL包结构
> CodeQL包必须在其根目录包含一个《qlpack.yml》的文件。在qlpack.yml文件中,name:字段的值必须遵循<scope>/<pack>格式,其中<scope>是发布包的GitHub《组织或者用户账户》,<pack>是包的名称。包中的其他文件和目录应该着逻辑组织,通常:
> 1. 查询被组织到特定类别的目录中
> 2. 对特定产品、库和框架的查询被组织到他们自己的顶级目录中
关于CodeQL的qlpack.yml文件
> 再执行与查询相关的命令式,CodeQL受限再安装目录(及其子目录)的兄弟目录中查找qlpack.yml文件。然后他会检查已下载的CodeQL包的宝缓存。这意味着当再本地开发查询时,安装目录中的本地包会覆盖包缓存中的通明白,以便可以测试本地更改。tip: 安装目录查看8.1.4章节
> 每个qlpack.yml文件中的元数据告诉CodeQL如何编译保重的任何查询、包依赖的库以及在哪可以查询套件定义。
> **CodeQL包的内容(CodeQL分析使用的查询或库)包含在与qlpack.yml相同的目录或其子目录中**
> qlpack.yml的位置定义了CodeQL包内容的库路径。也就是说,对于包中的所有.ql和.qll文件,CodeQL将解析与包根目录下的qlpack.yml相关的所有导入语句
[About CodeQL packs 配置选项](https://codeql.github.com/docs/codeql-cli/about-codeql-packs/)
#### 关于QL packs
> QL包用于组织CodeQL分析中使用的文件。他们包含查询、库文件、查询套件和重要的元数据。
> CodeQL存储库包含C/C++、C#、Java、JavaScript、Python和Ruby的QL包。CodeQL for Go存储库包含用户Go分析的QL包。还可以制作自定义QL包以包含自定义查询和库。
**4.2 QL包结构**
> QL包必须在其根目录包含一个名为qlpack.yml的文件。包中的其他文件和目录应该按逻辑组织。通常:
> 1. 查询被组织到特定类别的目录中
> 2. 对特定茶品、库、和框架的查询被组织到他们自己的顶级目录中。
> 3. 查询库(.qll)文件有一个名为<owner>/<language>的顶级目录。此目录中,.qll文件硬组织到特定类别的子目录中
关于QL包中的qlpack.yml文件
> 再执行命令时,CodeQL会扫描安装目录(及子目录)的兄弟目录中的qlpack.yml文件。文件中的元数据告诉CodeQL如何编译查询、包依赖的库以及在哪里可以找到查询套件定义。
> QL包的内容(CodeQL分析中使用的查询和库)与qlpack.yml或其子目录包含在同一目录中。
> qlpack.yml的位置定义了QL包内容的库路径。也就是说,对于QL包中的所有.ql和.qll文件,CodeQL将解析与包根目录下的qlpack.yml相关的所有导入语句。
> 例如在包含以下内容的QL包中,可以通过声明import mycompany.java.CustomSinks从包中的任何位置导入CustomSinks.qll
```
qlpack.yml
mycompany/
java/
security/
CustomSinks.qll
Security/
CustomQuery.ql
```
#### **Question: 自定义QL包**
- 献给乐于奉献的你
- 一、工作感悟
- 1.1 工作感悟
- 1.2 数据库工作总结
- 二、运维专题(非技术)
- 2.1 公有云运维
- 2.1.1 阿里云采坑记.md
- 三、运维专题(技术类)
- 3.1 Linux(操作系统)
- 3.1.1 常见工作总结
- 3.1.2 常见服务使用和部署
- 3.1.3 操作系统优化
- 3.1.4 常用命令(Centos8)
- 3.2 Docker & K8s(容器技术)
- 3.2.1 Docker
- 1. Docker
- 1-1 容器基础
- 1-2 部署和加速
- 1-3 常用命令
- 1-4 Dockerfile编写
- 1-5 容器网络
- 1-6 数据持久化
- 2. docker-compose
- 2-1 基础
- 3.2.2 kubernetes
- 1. 导读-请先看我
- 2. kubeadm部署集群
- 1-1 k8s-1.14-基于calico
- 1-2 k8s-1.17-基于flanne
- 3. 二进制部署集群
- 4. 日常工作及故障处理
- 4-1 常用命令
- 4-2 故障处理
- 3.2.3 依赖服务部署
- 1. Harbor(镜像仓库)
- 1-1 harbor-2.1.0(单节点)
- 3.3 CICD(持续集成/部署)
- 3.3.1 GitLab
- 1. 服务部署
- 1-1 Gitlab-CE-13.3.4(单节点)
- 2. Git基础
- 3.3.2 Ansible
- 1. 服务部署
- 1-2 ansible-2.5(pip部署)
- 3. ansible-playbook
- 3-1 基于Roles的Playbook
- 3-3 循环语法
- 3.3.3 Jnekins
- 1. Jenkins部署
- 1-1 Jenkins-2.65部署
- 1-2 Jenkins-2.249部署
- 2. Jenkins项目初始化
- 3. Jenkins集成
- 3-1 Jenkins-2.65集成Sonar
- 3.4 LB/HA(负载均衡,反向代理)
- 3.4.1 LVS+Keepalive
- 1. LVS为MySQL读提供负载均衡
- 3.4.2 Pacemaker(HA)
- 1. 常用命令(转)
- 3.5 Runtime(代码运行环境)
- 3.5.1 Tomcat(Web中间件)
- 1. Tomcat部署手册
- 1-1 Tomcat-7.0.76部署
- 2. Tomcat常用脚本
- 3.6 NoSQL(非关系型数据库)
- 3.6.1 redis(非关系数据库)
- 1. Redis 基础
- 2. Redis 4.0变化
- 3. Codis实现Redis的集群
- 4. Redis故障处理
- 5. redis安全第一步
- 6. Redis集群搭建
- 7. CacheCloud部署
- 3.6.1 Redis挑战
- 3.6.2 MongoDB(文档数据库)
- 1. Mongodb基础
- 1-1 Mongodb4.0新特性
- 1-2 支持多大数据量
- 2. Mongodb安装
- 2-1 Mac OS安装Mongodb
- 2-2 Yum安装Mongodb
- 2-3 二进制安装Mongodb
- 2-4 docker容器安装Mongodb
- 2-5 Mongodb 配置文件详解
- 2-6 Mongodb 生产安全清单
- 2-7 用户身份认证和授权
- 3. Mongodb副本集
- 3-1 副本集搭建
- 3-2 用户身份认证与授权
- 4. 日常维护工作
- 4-1 Mongodb磁盘回收
- 4-2 Mongodb备份恢复到任意时间点
- 4-3 Mongodb慢查询分析
- 4-4 Mongodb版本升级
- 4-5 Mongodb副本集成员状态
- 4-6 Mongodb备份恢复工具使用
- 4-7 Mongodb服务启动和停止
- 4-8 修改副本集成员oplog大小
- 4-9 Mongodb 副本集Oplog
- 3.7 MQ(消息队列)
- 3.7.1 Zookeeper(分布式协调系统)
- 1. ZooKeeper基础
- 2. ZooKeeper集群搭建
- 2-1 ZK-3.4.10部署
- 3.2 RabbitMQ(消息队列)
- 1. 服务部署
- 1-1 RabbitMQ-3.8部署
- 2. 常用命令
- 3.8 Monitor(数据收集,监控)
- 3.8.1 Zabbix(运维监控)
- 1. 服务部署
- 1-1 服务端部署
- 1-2 客户端部署
- 2. 监控服务
- 2-1 监控Apache
- 2-2 监控IIS
- 2-3 监控Ningx
- 2-4 监控Tomcat(6/7/8)
- 2-5 监控WebSphere 7
- 2-6 监控MySQL
- 2-7 监控Oracle
- 2-8 监控SQL Servre
- 2-9 监控Weblogic
- 2-10 监控Windows
- 2-11 自定义监控项
- 3. 告警推送
- 3-1 邮件告警
- 3-2 短信告警
- 3-3 告警推到Syslog
- 4. 日常工作
- 4-1 数据库优化(TokuDB)
- 4-2 数据库优化(分区表)
- 4-3 前端定制(Grafana)
- 5. 与Grafana结合
- 3.8.2 ELKBstack(日志收集展示)
- 1. 服务部署
- 1-1 ELK 5.5部署及配置
- 1-1-1 ELKBstack介绍
- 1-1-2 Elasticsearch部署
- 1-1-3 Logstash部署
- 1-1-4 Kibana部署
- 1-1-5 X-pack部署
- 1-1-6 Filebeat部署
- 2. ELK高级配置
- 1. Elasticsearch实战
- 2. Logstash实战
- 3. Filebeat实战
- 5. 引入队列
- 3.9 Virtualization(虚拟化)
- 3.10 Basic(基础服务)
- 3.10.1 Piwik-Matomo(用户行为分析)
- 1. Piwik前期分析
- 2. Piwik介绍和部署
- 2-1 Piwik-3.x版本(早期)
- 3. Piwik 功能配置
- 4. Piwik 模拟数据和压测
- 5. Piwik运转原理
- 6. Piwik数据库模式(一)
- 6-1 第一部分
- 6-2 第二部分
- 3.10.2 Cobbler(系统自动部署)
- 1. Cobbler 可以干什么?
- 2. Cobbler 基础原理
- 3. Cobbler 安装
- 3-1 Cobbler-2.8部署
- 4. Cobbler 基础配置
- 5. Cobbler 配置文件
- 6. 一键优化脚本
- 3.10.3 Rsync(数据同步服务)
- 1. Rsync基础
- 2. 案例:页面部署(服务端拉取)
- 3.10.4 NFS(共享存储)
- 1. NFS部署手册
- 2. 客户端NFS备份脚本
- 3.10.5 Grafana(可视化)
- 1. 安装(8.2.x)
- 3.11 Tools(软件工具)
- 3.11.1 基准测试
- 1. 基准测试方法论
- 2. 压测工具 - Siege
- 3. 压测工具 - http_load
- 3.12 DB(关系型数据库)
- 3.12.1 MySQL(关系数据库)
- 1. MySQL部署
- 1-1 MySQL-5.7部署
- 1-2 Percona-5.7 + TokuDB 部署
- 2. MySQL复制
- 2-1 MySQL异步复制
- 3. MySQL备份恢复
- 3-1 xtrabackup 备份恢复
- 4. MySQL 高可用
- 4-1 MHA(HA)
- 4-1-1 MHA 架构介绍和原理
- 4-1-2 MHA日常管理
- 4-1-3 MHA 自动Failover
- 4-1-4 MHA常用参数
- 4-1-5 MHA 报错
- 4-1-6 MHA相关配置文件和脚本
- 4-2 MyCAT
- 4-2-1 MyCAT 介绍和部署
- 4-1-3 MyCAT读写分离案例解析
- 5. MySQL 常用脚本
- 5-1 MySQL常用统计语句
- 5-2 MySQL性能分析脚本
- 6. MySQL 日常及故障处理
- 6-1 MySQL死锁排查
- 6-2 复制故障
- 6-3 MySQL 升级注意事项
- 6-3 MySQL授权
- 3.12.2 Oracle(关系数据库)
- 1. Oracle部署
- 1-1 Oracle11g单实例部署
- 1-2 Oracle12c单实例部署
- 2. Oracle常用脚本
- 3. Oracle 知识点
- 六、Ansible开源项目
- 6.1 项目初始化手册
- 6.1.1 Ansible错误处理
- 6.1.2 一种预先判断是否操作的方法
- 6.2 System初始化
- 6.3 Nginx/Tnginx部署
- 6.4 Python部署
- 6.5 PHP部署
- 6.6 MySQL部署
- 6.7 Docker部署
- 6.8 Haproxy部署
- 6.9 Redis部署
- 1. 变量和tags信息
- 3. Redis主从部署
- 4. Redis集群部署
- 5. 清理数据
- 6.10 Software软件部署
- 6.11 Zabbix部署
- 6.12 Elastic部署
- 6.13 Tomcat
- 6.14 Kafka部署
- 6.15 Zookeeper部署
- 6.16 Etcd集群部署
- 6.17 M3DB部署
- 6.18 Pormetheus部署
- 七、学习资源推荐
- 八、从瞎搞到放弃
- 8.1 CodeQL(语义代码分析引擎)
- 8.1.1 背景及计划
- 8.1.2 CodeQL概述
- 8.1.3 简单部署和使用
- 8.1.4 后续
- 8.2 dbdeployer(轻松部署MySQL)
- 归档笔记
- 三、常用服务部署(迁移中)
- 3.4 Nginx & PHP(Web服务)
- 3.4.1 Nginx(Web)
- 1. Nginx基础和部署
- 2. Nginx 我的一些思考
- 3. Nginx(Web)配置
- 4. Nginx(Proxy)配置
- 5. Nginx日常管理
- 3.4.3 PHP
- 1. PHP 7.1 部署
- 2. PHP5.6 部署
- 4. PHP原理
- 5. PHP 常用模块
- 二、运维项目实战(迁移中)
- 2.1 标准化 & 工具化项目
- 2.1.1 系统部署和优化
- 2.1.5 全网日志收集展示平台项目
- 1. 项目需求
- 2. 整体方案规划
- 3. 日志收集配置
- 4. 消息缓冲队列
- 5. 日志处理转发
- 6. 日志数据展示(待补充)
- 7. ELK安全配置(上)
- 8. ELK安全配置(下)
- 9. 项目总结
- 2.2 高性能Web项目
- 2.2.1 网站需求(完善中)