来源：二十一 链接：

由于总结了太多的东西，所以篇幅有点长，这也是我"缝缝补补"总结了好久的东西。

Py2 VS Py3

print成为了函数，python2是关键字不再有unicode对象，默认str就是unicodepython3除号返回浮点数没有了long类型xrange不存在，range替代了xrange可以使用中文定义函数名变量名高级解包 和*解包限定关键字参数 *后的变量必须加入名字=值raise fromiteritems移除变成items()yield from 链接子生成器asyncio,async/await原生协程支持异步编程新增enum,mock,ipaddress,concurrent.futures,asyncio urllib，selector不同枚举类间不能进行比较同一枚举类间只能进行相等的比较枚举类的使用(编号默认从1开始)为了避免枚举类中相同枚举值的出现，可以使用@unique装饰枚举类

py2/3转换工具

six模块：兼容pyton2和pyton3的模块2to3工具：改变代码语法版本__future__：使用下一版本的功能

常用的库

必须知道的collections排序操作及heapq模块模块超实用方法

不常用但很重要的库

dis(代码字节码分析)inspect(生成器状态)cProfile(性能分析)bisect(维护有序列表)fnmatchfnmatch(string,"*.txt") #win下不区分大小写fnmatch根据系统决定fnmatchcase完全区分大小写timeit(代码执行时间)contextlib@contextlib.contextmanager使生成器函数变成一个上下文管理器types(包含了标准解释器定义的所有类型的类型对象,可以将生成器函数修饰为异步模式)html(实现对html的转义)mock(解决测试依赖)concurrent(创建进程池河线程池)selector(封装select,用户多路复用io编程)asyncio

Python进阶

进程间通信：Manager(内置了好多数据结构，可以实现多进程间内存共享)Pipe(适用于两个进程)Queue(不能用于进程池,进程池间通信需要使用Manager().Queue())进程池sys模块几个常用方法argv 命令行参数list,第一个是程序本身的路径path 返回模块的搜索路径modules.keys() 返回已经导入的所有模块的列表exit(0) 退出程序a in s or b in s or c in s简写采用any方式：all() 对于任何可迭代对象为空都会返回Trueset集合运用{1,2}.issubset({1,2,3})#判断是否是其子集{1,2,3}.issuperset({1,2}){}.isdisjoint({})#判断两个set交集是否为空,是空集则为True代码中中文匹配[u4E00-u9FA5]匹配中文文字区间[一到龥]查看系统默认编码格式getattr VS getattribute类变量是不会存入实例__dict__中的，只会存在于类的__dict__中globals/locals(可以变相操作代码)globals中保存了当前模块中所有的变量属性与值locals中保存了当前环境中的所有变量属性与值python变量名的解析机制(LEGB)本地作用域(Local)当前作用域被嵌入的本地作用域(Enclosing locals)全局/模块作用域(Global)内置作用域(Built-in)实现从1-100每三个为一组分组什么是元类？即创建类的类，创建类的时候只需要将metaclass=元类，元类需要继承type而不是object,因为type就是元类什么是鸭子类型(即:多态)？Python在使用传入参数的过程中不会默认判断参数类型，只要参数具备执行条件就可以执行深拷贝和浅拷贝深拷贝拷贝内容，浅拷贝拷贝地址(增加引用计数)copy模块实现神拷贝单元测试一般测试类继承模块unittest下的TestCasepytest模块快捷测试(方法以test_开头/测试文件以test_开头/测试类以Test开头，并且不能带有 init 方法)coverage统计测试覆盖率gil会根据执行的字节码行数以及时间片释放gil，gil在遇到io的操作时候主动释放什么是monkey patch?猴子补丁，在运行的时候替换掉会阻塞的语法修改为非阻塞的方法什么是自省(Introspection)？运行时判断一个对象的类型的能力，id,type,isinstancepython是值传递还是引用传递？都不是，python是共享传参，默认参数在执行时只会执行一次try-except-else-finally中else和finally的区别else在不发生异常的时候执行，finally无论是否发生异常都会执行except一次可以捕获多个异常，但一般为了对不同异常进行不同处理，我们分次捕获处理GIL全局解释器锁同一时间只能有一个线程执行，CPython(IPython)的特点，其他解释器不存在cpu密集型：多进程+进程池io密集型：多线程/协程什么是Cython将python解释成C代码工具生成器和迭代器可迭代对象只需要实现__iter__方法实现__next__和__iter__方法的对象就是迭代器使用生成器表达式或者yield的生成器函数(生成器是一种特殊的迭代器)什么是协程yieldasync-awiat比线程更轻量的多任务方式实现方式dict底层结构为了支持快速查找使用了哈希表作为底层结构哈希表平均查找时间复杂度为o(1)CPython解释器使用二次探查解决哈希冲突问题Hash扩容和Hash冲突解决方案链接法二次探查(开放寻址法)：python使用循环复制到新空间实现扩容冲突解决：判断是否为生成器或者协程斐波那契解决的问题及变形获取电脑设置的环境变量垃圾回收机制引用计数标记清除分代回收True和False在代码中完全等价于1和0,可以直接和数字进行计算，inf表示无穷大C10M/C10KC10M:8核心cpu，64G内存，在10gbps的网络上保持1000万并发连接C10K：1GHz CPU,2G内存，1gbps网络环境下保持1万个客户端提供FTP服务yield from与yield的区别：yield from跟的是一个可迭代对象，而yield后面没有限制GeneratorExit生成器停止时触发单下划线的几种使用在定义变量时，表示为私有变量在解包时，表示舍弃无用的数据在交互模式中表示上一次代码执行结果可以做数字的拼接(111_222_333)使用break就不会执行else10进制转2进制list1 = ['A', 'B', 'C', 'D'] 如何才能得到以list中元素命名的新列表 A=[],B=[],C=[],D=[]呢memoryview与bytearray$\color{#000}(不常用，只是看到了记载一下)$Ellipsis类型lazy惰性计算遍历文件，传入一个文件夹，将里面所有文件的路径打印出来(递归)文件存储时，文件名的处理日期格式化tuple使用+=奇怪的问题__missing__你应该知道+与+=如何将一个可迭代对象的每个元素变成一个字典的所有键？wireshark抓包软件

网络知识

什么是HTTPS?安全的HTTP协议，https需要cs证书，数据加密，端口为443，安全，同一网站https seo排名会更高常见响应状态码http请求方法的幂等性及安全性WSGIRPCCDNSSL(Secure Sockets Layer 安全套接层),及其继任者传输层安全（Transport Layer Security，TLS）是为网络通信提供安全及数据完整性的一种安全协议。SSH（安全外壳协议） 为 Secure Shell 的缩写，由 IETF 的网络小组（Network Working Group）所制定；SSH 为建立在应用层基础上的安全协议。SSH 是目前较可靠，专为远程登录会话和其他网络服务提供安全性的协议。利用 SSH 协议可以有效防止远程管理过程中的信息泄露问题。SSH最初是UNIX系统上的一个程序，后来又迅速扩展到其他操作平台。SSH在正确使用时可弥补网络中的漏洞。SSH客户端适用于多种平台。几乎所有UNIX平台—包括HP-UX、Linux、AIX、Solaris、Digital UNIX、Irix，以及其他平台，都可运行SSH。TCP/IPTCP:面向连接/可靠/基于字节流UDP:无连接/不可靠/面向报文三次握手四次挥手三次握手(SYN/SYN+ACK/ACK)四次挥手(FIN/ACK/FIN/ACK)为什么连接的时候是三次握手，关闭的时候却是四次握手？因为当Server端收到Client端的SYN连接请求报文后，可以直接发送SYN+ACK报文。其中ACK报文是用来应答的，SYN报文是用来同步的。但是关闭连接时，当Server端收到FIN报文时，很可能并不会立即关闭SOCKET，所以只能先回复一个ACK报文，告诉Client端，"你发的FIN报文我收到了"。只有等到我Server端所有的报文都发送完了，我才能发送FIN报文，因此不能一起发送。故需要四步握手。为什么TIME_WAIT状态需要经过2MSL(最大报文段生存时间)才能返回到CLOSE状态？虽然按道理，四个报文都发送完毕，我们可以直接进入CLOSE状态了，但是我们必须假象网络是不可靠的，有可以最后一个ACK丢失。所以TIME_WAIT状态就是用来重发可能丢失的ACK报文。XSS/CSRFHttpOnly禁止js脚本访问和操作Cookie,可以有效防止XSS

Mysql

索引改进过程线性结构->二分查找->hash->二叉查找树->平衡二叉树->多路查找树->多路平衡查找树(B-Tree)Mysql面试总结基础篇面试总结进阶篇深入浅出Mysql深入浅出mysql/清空整个表时，InnoDB是一行一行的删除，而MyISAM则会从新删除建表text/blob数据类型不能有默认值，查询时不存在大小写转换什么时候索引失效以%开头的like模糊查询出现隐士类型转换没有满足最左前缀原则对于多列索引，不是使用的第一部分，则不会使用索引失效场景：应尽量避免在 where 子句中使用 != 或 <> 操作符，否则引擎将放弃使用索引而进行全表扫描尽量避免在 where 子句中使用 or 来连接条件，否则将导致引擎放弃使用索引而进行全表扫描，即使其中有条件带索引也不会使用，这也是为什么尽量少用 or 的原因如果列类型是字符串，那一定要在条件中将数据使用引号引用起来，否则不会使用索引应尽量避免在 where 子句中对字段进行函数操作，这将导致引擎放弃使用索引而进行全表扫描不要在 where 子句中的 “=” 左边进行函数、算术运算或其他表达式运算，否则系统将可能无法正确使用索引应尽量避免在 where 子句中对字段进行表达式操作，这将导致引擎放弃使用索引而进行全表扫描不适合键值较少的列（重复数据较多的列）比如：set enum列就不适合(枚举类型(enum)可以添加null,并且默认的值会自动过滤空格集合(set)和枚举类似，但只可以添加64个值)如果MySQL估计使用全表扫描要比使用索引快，则不使用索引什么是聚集索引B+Tree叶子节点保存的是数据还是指针MyISAM索引和数据分离，使用非聚集InnoDB数据文件就是索引文件，主键索引就是聚集索引

Redis命令总结

为什么这么快？基于内存，由C语言编写使用多路I/O复用模型，非阻塞IO使用单线程减少线程间切换因为Redis是基于内存的操作，CPU不是Redis的瓶颈，Redis的瓶颈最有可能是机器内存的大小或者网络带宽。既然单线程容易实现，而且CPU不会成为瓶颈，那就顺理成章地采用单线程的方案了（毕竟采用多线程会有很多麻烦！）。数据结构简单自己构建了VM机制，减少调用系统函数的时间优势性能高 – Redis能读的速度是110000次/s,写的速度是81000次/s丰富的数据类型原子 – Redis的所有操作都是原子性的，同时Redis还支持对几个操作全并后的原子性执行丰富的特性 – Redis还支持 publish/subscribe（发布/订阅）, 通知, key 过期等等特性什么是redis事务？将多个请求打包，一次性、按序执行多个命令的机制通过multi,exec,watch等命令实现事务功能Python redis-py pipeline=conn.pipeline(transaction=True)持久化方式RDB(快照)save(同步，可以保证数据一致性)bgsave(异步，shutdown时，无AOF则默认使用)AOF(追加日志)怎么实现队列pushrpop常用的数据类型(Bitmaps,Hyperloglogs,范围查询等不常用)String(字符串):计数器整数或sds(Simple Dynamic String)List(列表)：用户的关注，粉丝列表ziplist(连续内存块，每个entry节点头部保存前后节点长度信息实现双向链表功能)或double linked listHash(哈希)：Set(集合)：用户的关注者intset或hashtableZset(有序集合)：实时信息排行榜skiplist(跳跃表)与Memcached区别Memcached只能存储字符串键Memcached用户只能通过APPEND的方式将数据添加到已有的字符串的末尾，并将这个字符串当做列表来使用。但是在删除这些元素的时候，Memcached采用的是通过黑名单的方式来隐藏列表里的元素，从而避免了对元素的读取、更新、删除等操作Redis和Memcached都是将数据存放在内存中，都是内存数据库。不过Memcached还可用于缓存其他东西，例如图片、视频等等虚拟内存–Redis当物理内存用完时，可以将一些很久没用到的Value 交换到磁盘存储数据安全–Memcached挂掉后，数据没了；Redis可以定期保存到磁盘（持久化）应用场景不一样：Redis出来作为NoSQL数据库使用外，还能用做消息队列、数据堆栈和数据缓存等；Memcached适合于缓存SQL语句、数据集、用户临时性数据、延迟查询数据和Session等Redis实现分布式锁使用setnx实现加锁，可以同时通过expire添加超时时间锁的value值可以是一个随机的uuid或者特定的命名释放锁的时候，通过uuid判断是否是该锁，是则执行delete释放锁常见问题缓存雪崩短时间内缓存数据过期，大量请求访问数据库缓存穿透请求访问数据时，查询缓存中不存在，数据库中也不存在缓存预热初始化项目，将部分常用数据加入缓存缓存更新数据过期，进行更新缓存数据缓存降级当访问量剧增、服务出现问题（如响应时间慢或不响应）或非核心服务影响到核心流程的性能时，仍然需要保证服务还是可用的，即使是有损服务。系统可以根据一些关键数据进行自动降级，也可以配置开关实现人工降级一致性Hash算法使用集群的时候保证数据的一致性基于redis实现一个分布式锁，要求一个超时的参数setnx虚拟内存内存抖动

Linux

Unix五种i/o模型阻塞io非阻塞io多路复用io(Python下使用selectot实现io多路复用)select并发不高，连接数很活跃的情况下poll比select提高的并不多epoll适用于连接数量较多，但活动链接数少的情况信号驱动io异步io(Gevent/Asyncio实现异步)比man更好使用的命令手册tldr:一个有命令示例的手册kill -9和-15的区别-15：程序立刻停止/当程序释放相应资源后再停止/程序可能仍然继续运行-9：由于-15的不确定性，所以直接使用-9立即杀死进程分页机制（逻辑地址和物理地址分离的内存分配管理方案）：操作系统为了高效管理内存，减少碎片程序的逻辑地址划分为固定大小的页物理地址划分为同样大小的帧通过页表对应逻辑地址和物理地址分段机制为了满足代码的一些逻辑需求数据共享/数据保护/动态链接每个段内部连续内存分配，段和段之间是离散分配的查看cpu内存使用情况？topfree 查看可用内存，排查内存泄漏问题

设计模式

单例模式

工厂模式

构造模式

数据结构和算法内置数据结构和算法

python实现各种数据结构

快速排序

选择排序

插入排序

归并排序

堆排序heapq模块

栈

队列

二分查找

面试加强题：

关于数据库优化及设计

如何使用两个栈实现一个队列反转链表合并两个有序链表删除链表节点反转二叉树设计短网址服务？62进制实现设计一个秒杀系统(feed流)？为什么mysql数据库的主键使用自增的整数比较好？使用uuid可以吗？为什么？如果InnoDB表的数据写入顺序能和B+树索引的叶子节点顺序一致的话，这时候存取效率是最高的。为了存储和查询性能应该使用自增长id做主键。对于InnoDB的主索引，数据会按照主键进行排序，由于UUID的无序性，InnoDB会产生巨大的IO压力，此时不适合使用UUID做物理主键，可以把它作为逻辑主键，物理主键依然使用自增ID。为了全局的唯一性，应该用uuid做索引关联其他表或做外键如果是分布式系统下我们怎么生成数据库的自增id呢？使用redis基于redis实现一个分布式锁，要求一个超时的参数setnxsetnx + expire如果redis单个节点宕机了，如何处理？还有其他业界的方案实现分布式锁码?使用hash一致算法

缓存算法

LRU(least-recently-used):替换最近最少使用的对象LFU(Least frequently used):最不经常使用，如果一个数据在最近一段时间内使用次数很少，那么在将来一段时间内被使用的可能性也很小

服务端性能优化方向

使用数据结构和算法数据库索引优化慢查询消除slow_query_log_file开启并且查询慢查询日志通过explain排查索引问题调整数据修改索引批量操作，从而减少io操作使用NoSQL:比如Redis网络io批量操作pipeline缓存Redis异步Asyncio实现异步操作使用Celery减少io阻塞并发多线程Gevent