欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页

Linux SRE 必经之路

程序员文章站 2022-04-05 13:38:05
...

  运维架构层级/运维角度

  内容描述/主要技术关键词

  监控体系

  自动化/DevOps

  云计算

  客户端层

  浏览器

  Cookie作用域、浏览器缓存协商(Last-Modified、Expires、Etag)、组件分离、前端优化、运维检测工具

  故障检测工具

  DNS服务

  舆论监控

  CDN服务

  DNS

  浏览器DNS缓存、DNS缓存、自建DNS服务器、商业DNS产品、智能DNS、公共DNS(BGP anycast)、bind+DLZ/DPDK

  移动服务

  客户端/APP

  HTTP-DNS、打点日志、加密传输、移动推送、各类SDK(监控SDK、推流SDK等)

  外部网络监控

  云盾

  外部层

  外部CDN

  GSLB、反向代理缓存、分布式存储、流量调度、配置管理、用户端(各类API如:带宽监控、预缓存、缓存刷新)

  基于开放API开发

  外部安全防护

  第三方安全解决方案(防DDOS、防CC攻击、WAF等)

  APM

  网络层

  互联层

  多机房互联(VPN、专线)、异地灾备-->异地多活-->按SET部署

  设备监控

  SDN

  高速通道

  (Zabbix SNMP)

  核心层

  防火墙、路由器、Ipsec VPN、链路负载均衡和高可用 (CCNP级别)

  OpenvSwitch

  VPC(专有网络)

  汇聚层

  三层交换 动态路由(OSPF)、静态路由、EC(端口汇聚)、MSTP+VRRP等 (CCNP级别)

  网络质量监控

  (GRE、Vxlan)

  接入层

  二层交换 (VTP、SPF、Trunk、端口安全)等 (CCNA级别)

  (Smokeping)

  接入层

  负载均衡

  四层负载均衡

  开源:LVS(IP负载均衡)+Keepalived、Haproxy 商业:F5、Netscaler

  服务监控(API)

  平台开发

  高防IP

  高可用

  七层负载均衡

  反向代理:Haproxy、Nginx、Apache(根据HTTP协议支持的属性进行L7分发)、A/B Test Gateway、WAF

  (LBaas)

  云负载均衡SLB

  反向代理缓存

  ATS、Squid、Varnish、Nginx(缓存分级、预缓存、缓存刷新)

  CDN服务

  应用服务层

  Web服务层

  HTTP协议、Web服务器(Apache、Nginx/OpenResty、Tomcat、Resin、Jboss)安全设置、性能优化

  配置管理:SaltStack

  镜像市场

  业务监控(API)

  过载保护-服务降级

  灰度发布-openresty

  流量分析(Piwik)

  项目管理-Readmine

  应用服务层

  运行环境(PHP Python Java C C++)、性能优化、缓存(OPCache、LocalCache)、Session存储、代码部署

  代码仓库-gitlab

  各种SAAS服务

  业务层

  业务实现

  API网关、302调度、业务模块化(电商例:用户、商品、购物车、结算中心、价格等服务)、微服务

  服务监控(API)

  持续集成-Jenkins

  服务层

  SOA框架(Dubbo)、微服务框架(istio、Spring Cloud)、协议(RPC、RESTful)、框架安全、应用性能监控

  持续审查-SonarQube

  分布式应用服务

  分布式层

  消息队列

  ActiveMQ(成熟)、RabbitMQ(成熟、案例多)、RocketMQ(业务应用)、Kafka(日志传输)、ZeroMQ(快)

  安全监控(WAF)

  消息队列服务

  存储层

  文件存储

  单机存储

  块存储 - 机械硬盘、SSD、文件系统(ext4、xfs)、LVM、tmpfs

  系统监控

  配置管理

  云硬盘 对象存储

  单机存储扩展

  文件分发(多级分发)、文件同步(rsync、inotify)、DRBD、DAS(块存储)

  共享存储

  文件存储 - NAS[NFS(Unix/Linux)]、FTP、SAN、iSCSI

  软件自带监控

  分布式存储

  对象存储 - GlusterFS、MooseFS、Ceph、FastDFS(非对象存储)

  DAL

  数据访问层

  应用层分片、淘宝TDDL、开源:360(Atlas)、阿里(Cobar)、MyCat、MySQL-Proxy、根据业务开发

  数据库服务

  数据存储

  分布式缓存

  Memcached、Redis(客户端分片、Redis Cluster、Twemproxy、Codis)

  数据库监控

  数据库运维平台

  云数据库-RDS

  NoSQL

  Redis、LevelDB(SSDB)、CouchDB、Mongodb、Couchbase 、Cassandra、TiDB(支持MySQL协议)

  Mongodb、Redis

  时间序列

  RRDTool、Graphite Whisper、OpenTSDB、InfluxDB、KairosDB、ElasticSearch、Hbase

  Memcached

  RDBMS

  MySQL(PXC集群、MHA)、Oracle(DG、OGG、RAC)、PostgreSQL、SqlServer、SQLite、DB2

  OceanBase

  大数据

  Hadoop生态圈(HDFS、Hive、Hbase、Zookeeper、Pig、Spark、Impala、Kudu)、Mahout智能推荐

  服务监控

  Ambari、CM

  大数据服务

  基础服务层

  业务决策

  灰度发布、服务降级、异地灾备、数据分析平台、智能扩容决策树(需要各层支持)、智能监控

  监控工具:

  自动化工具

  日志服务

  Zabbix

  (Puppet

  操作审计

  Nagios

  Chef

  资源编排

  运维相关

  项目管理(Redmine、Jira、知识库、Bugzilla、CodeReview)、工单系统、QQ靓号出售运维操作平台、监控平台

  Cacti

  SaltStack

  运维监控服务

  应用相关

  持续集成、日志收集平台(ELKStack)、自动化部署平台、Job管理(调度)平台、安全扫描平台

  Open-Falcon

  Ansible)

  持续交付系统

  系统相关

  LDAP、内部DNS、DHCP、Mail、SMS、Gitlab、Yum仓库、操作审计(xenapp)、堡垒机

  Sensu

  容器层

  容器编排

  Mesos(Marathon、Chronos)、Kubernetes、Docker Swarm、Rancher、CoreOS(fleet)、OpenStack(Magnum)

  Docker Stats

  Docker Swarm

  容器服务

  cAdvisor

  Mesos

  容器和系统

  容器:LXC、LXD、Docker、rkt、系统:CoreOS、Atomic、RancherOS

  DataDog

  Kubernetes

  网络和存储

  网络:Calico、Flanel、Weave Net 存储:Ceph 镜像管理:Docker Registry、Harbor

  Zabbix

  操作系统层

  CPU

  CPU运行级别、使用率、上下文切换、运行队列、进程调度、系统调用、CPU管理(进程管理、taskset、intel VT-X)

  mpstat、strace

  虚拟化

  公有云

  内存

  虚拟内存、SWAP换入换出、内存寻址、内存管理(Buffer Cache、HugePages、ksmd、EPT)

  vmstat、free

  弹性计算产品

  I/O(磁盘)

  缺页中断、IOPS(顺序IO、随机IO)、IO管理(IO调度算法、virtio)、VFS

  iostat、iotop

  I/O(网络)

  TCP/IP(三次握手、四次挥手、状态转换、TCP队列)、IO模型、Bonding、Bridge、网络管理(iftop、tcpdump)

  iftop

  内核/Shell

  内核定制、内存参数优化、脚本编程(AWK、Sed、Shell、Python、PHP、Perl、Ruby、Lua)

  系统监控

  基础设施层

  IAAS(基础设施即服务)

  公有云、私有云(OpenStack/cloudstack+KVM/XEN、oVirt)、混合云

  服务监控

  配置管理

  硬件管理

  硬件选型、配件更换、资产录入、系统安装(Cobbler)、标签化、Raid构建、远程控制(KVM、iDrac、ILO、IMM)

  巡检、IPMI

  IPMI、CMDB

  IDC托管

  需求分析、IDC选型、网络测试、谈价格、签合同、设备采购(原厂vs渠道)、机柜和机位规划

  数据中心

  数据中心选址、制冷、供电、网络、运维

  风火水电

  基础设施监控

  无

  运维产品化

  基于DevOps产品思路

  项目管理(类似Jira)、Bug管理、代码托管(类似Gitlab)、持续交付(类似Jenkins的构建、测试、部署)

  监控平台、看板

  软件定义数据中心

  DevOps产品

  自动化运维产品思路

  CMDB、ITSM管理系统(事件管理、问题管理、故障管理、工单系统)、作业平台、堡垒机、APM、私有云平台

  监控平台

  CI/CD系统

  运维管理产品

  运维服务化

  OAAS

  OAAS:Operations as a Service,运维咨询、运维托管、技术培训、应急处理、产品即服务、DevOps专家服务

  测试和开发相关

  运维协助:性能测试(TCPCopy、日志转换)、单机监控(nmon)、环境规划(开发、测试、预生产、生产)、CI(持续集成)、自动化部署

  运维管理体系

  运维管理必会:ITSM、ITIL V3、IT Service CMM、Six Sigma、DevOps Master、项目管理(PMBok)、架构层面(知识体系、运维方案、容量规划、灾备规划、服务降级)

  运维发展趋势(个人理解)

  打杂(小公司啥都干)->分层(应用运维、系统运维、基础运维、运维开发等)->场景化(分业务)->自动化(最终大家的目标都是自动化)

  运维自动化发展趋势(个人理解)

  标准化(文档化、流程化)->工具化(流程固化为工具)->Web化(平台化)->服务化(API化)->智能化(自动化)->产品化(服务化,云服务、运维创业)