Linux SRE 必经之路
运维架构层级/运维角度
内容描述/主要技术关键词
监控体系
自动化/DevOps
云计算
客户端层
浏览器
Cookie作用域、浏览器缓存协商(Last-Modified、Expires、Etag)、组件分离、前端优化、运维检测工具
故障检测工具
DNS服务
舆论监控
CDN服务
DNS
浏览器DNS缓存、DNS缓存、自建DNS服务器、商业DNS产品、智能DNS、公共DNS(BGP anycast)、bind+DLZ/DPDK
移动服务
客户端/APP
HTTP-DNS、打点日志、加密传输、移动推送、各类SDK(监控SDK、推流SDK等)
外部网络监控
云盾
外部层
外部CDN
GSLB、反向代理缓存、分布式存储、流量调度、配置管理、用户端(各类API如:带宽监控、预缓存、缓存刷新)
基于开放API开发
外部安全防护
第三方安全解决方案(防DDOS、防CC攻击、WAF等)
APM
网络层
互联层
多机房互联(VPN、专线)、异地灾备-->异地多活-->按SET部署
设备监控
SDN
高速通道
(Zabbix SNMP)
核心层
防火墙、路由器、Ipsec VPN、链路负载均衡和高可用 (CCNP级别)
OpenvSwitch
VPC(专有网络)
汇聚层
三层交换 动态路由(OSPF)、静态路由、EC(端口汇聚)、MSTP+VRRP等 (CCNP级别)
网络质量监控
(GRE、Vxlan)
接入层
二层交换 (VTP、SPF、Trunk、端口安全)等 (CCNA级别)
(Smokeping)
接入层
负载均衡
四层负载均衡
开源:LVS(IP负载均衡)+Keepalived、Haproxy 商业:F5、Netscaler
服务监控(API)
平台开发
高防IP
高可用
七层负载均衡
反向代理:Haproxy、Nginx、Apache(根据HTTP协议支持的属性进行L7分发)、A/B Test Gateway、WAF
(LBaas)
云负载均衡SLB
反向代理缓存
ATS、Squid、Varnish、Nginx(缓存分级、预缓存、缓存刷新)
CDN服务
应用服务层
Web服务层
HTTP协议、Web服务器(Apache、Nginx/OpenResty、Tomcat、Resin、Jboss)安全设置、性能优化
配置管理:SaltStack
镜像市场
业务监控(API)
过载保护-服务降级
灰度发布-openresty
流量分析(Piwik)
项目管理-Readmine
应用服务层
运行环境(PHP Python Java C C++)、性能优化、缓存(OPCache、LocalCache)、Session存储、代码部署
代码仓库-gitlab
各种SAAS服务
业务层
业务实现
API网关、302调度、业务模块化(电商例:用户、商品、购物车、结算中心、价格等服务)、微服务
服务监控(API)
持续集成-Jenkins
服务层
SOA框架(Dubbo)、微服务框架(istio、Spring Cloud)、协议(RPC、RESTful)、框架安全、应用性能监控
持续审查-SonarQube
分布式应用服务
分布式层
消息队列
ActiveMQ(成熟)、RabbitMQ(成熟、案例多)、RocketMQ(业务应用)、Kafka(日志传输)、ZeroMQ(快)
安全监控(WAF)
消息队列服务
存储层
文件存储
单机存储
块存储 - 机械硬盘、SSD、文件系统(ext4、xfs)、LVM、tmpfs
系统监控
配置管理
云硬盘 对象存储
单机存储扩展
文件分发(多级分发)、文件同步(rsync、inotify)、DRBD、DAS(块存储)
共享存储
文件存储 - NAS[NFS(Unix/Linux)]、FTP、SAN、iSCSI
软件自带监控
分布式存储
对象存储 - GlusterFS、MooseFS、Ceph、FastDFS(非对象存储)
DAL
数据访问层
应用层分片、淘宝TDDL、开源:360(Atlas)、阿里(Cobar)、MyCat、MySQL-Proxy、根据业务开发
数据库服务
数据存储
分布式缓存
Memcached、Redis(客户端分片、Redis Cluster、Twemproxy、Codis)
数据库监控
数据库运维平台
云数据库-RDS
NoSQL
Redis、LevelDB(SSDB)、CouchDB、Mongodb、Couchbase 、Cassandra、TiDB(支持MySQL协议)
Mongodb、Redis
时间序列
RRDTool、Graphite Whisper、OpenTSDB、InfluxDB、KairosDB、ElasticSearch、Hbase
Memcached
RDBMS
MySQL(PXC集群、MHA)、Oracle(DG、OGG、RAC)、PostgreSQL、SqlServer、SQLite、DB2
OceanBase
大数据
Hadoop生态圈(HDFS、Hive、Hbase、Zookeeper、Pig、Spark、Impala、Kudu)、Mahout智能推荐
服务监控
Ambari、CM
大数据服务
基础服务层
业务决策
灰度发布、服务降级、异地灾备、数据分析平台、智能扩容决策树(需要各层支持)、智能监控
监控工具:
自动化工具
日志服务
Zabbix
(Puppet
操作审计
Nagios
Chef
资源编排
运维相关
项目管理(Redmine、Jira、知识库、Bugzilla、CodeReview)、工单系统、QQ靓号出售运维操作平台、监控平台
Cacti
SaltStack
运维监控服务
应用相关
持续集成、日志收集平台(ELKStack)、自动化部署平台、Job管理(调度)平台、安全扫描平台
Open-Falcon
Ansible)
持续交付系统
系统相关
LDAP、内部DNS、DHCP、Mail、SMS、Gitlab、Yum仓库、操作审计(xenapp)、堡垒机
Sensu
容器层
容器编排
Mesos(Marathon、Chronos)、Kubernetes、Docker Swarm、Rancher、CoreOS(fleet)、OpenStack(Magnum)
Docker Stats
Docker Swarm
容器服务
cAdvisor
Mesos
容器和系统
容器:LXC、LXD、Docker、rkt、系统:CoreOS、Atomic、RancherOS
DataDog
Kubernetes
网络和存储
网络:Calico、Flanel、Weave Net 存储:Ceph 镜像管理:Docker Registry、Harbor
Zabbix
操作系统层
CPU
CPU运行级别、使用率、上下文切换、运行队列、进程调度、系统调用、CPU管理(进程管理、taskset、intel VT-X)
mpstat、strace
虚拟化
公有云
内存
虚拟内存、SWAP换入换出、内存寻址、内存管理(Buffer Cache、HugePages、ksmd、EPT)
vmstat、free
弹性计算产品
I/O(磁盘)
缺页中断、IOPS(顺序IO、随机IO)、IO管理(IO调度算法、virtio)、VFS
iostat、iotop
I/O(网络)
TCP/IP(三次握手、四次挥手、状态转换、TCP队列)、IO模型、Bonding、Bridge、网络管理(iftop、tcpdump)
iftop
内核/Shell
内核定制、内存参数优化、脚本编程(AWK、Sed、Shell、Python、PHP、Perl、Ruby、Lua)
系统监控
基础设施层
IAAS(基础设施即服务)
公有云、私有云(OpenStack/cloudstack+KVM/XEN、oVirt)、混合云
服务监控
配置管理
硬件管理
硬件选型、配件更换、资产录入、系统安装(Cobbler)、标签化、Raid构建、远程控制(KVM、iDrac、ILO、IMM)
巡检、IPMI
IPMI、CMDB
IDC托管
需求分析、IDC选型、网络测试、谈价格、签合同、设备采购(原厂vs渠道)、机柜和机位规划
数据中心
数据中心选址、制冷、供电、网络、运维
风火水电
基础设施监控
无
运维产品化
基于DevOps产品思路
项目管理(类似Jira)、Bug管理、代码托管(类似Gitlab)、持续交付(类似Jenkins的构建、测试、部署)
监控平台、看板
软件定义数据中心
DevOps产品
自动化运维产品思路
CMDB、ITSM管理系统(事件管理、问题管理、故障管理、工单系统)、作业平台、堡垒机、APM、私有云平台
监控平台
CI/CD系统
运维管理产品
运维服务化
OAAS
OAAS:Operations as a Service,运维咨询、运维托管、技术培训、应急处理、产品即服务、DevOps专家服务
测试和开发相关
运维协助:性能测试(TCPCopy、日志转换)、单机监控(nmon)、环境规划(开发、测试、预生产、生产)、CI(持续集成)、自动化部署
运维管理体系
运维管理必会:ITSM、ITIL V3、IT Service CMM、Six Sigma、DevOps Master、项目管理(PMBok)、架构层面(知识体系、运维方案、容量规划、灾备规划、服务降级)
运维发展趋势(个人理解)
打杂(小公司啥都干)->分层(应用运维、系统运维、基础运维、运维开发等)->场景化(分业务)->自动化(最终大家的目标都是自动化)
运维自动化发展趋势(个人理解)
标准化(文档化、流程化)->工具化(流程固化为工具)->Web化(平台化)->服务化(API化)->智能化(自动化)->产品化(服务化,云服务、运维创业)