百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术教程 > 正文

[oeasy]python0129_unicode中文字符序号十三道大辙_字符编码解码

csdh11 2025-04-07 13:20 32 浏览

unicode 中文字符分类 回忆上次内容

  • 字符集
  • 从博多码
  • ascii
  • 再到 iso-8859 系列
  • 各自割据


  • 如何把世界上各种字符统进行编码
  • unicode顺势而生不断进化
  • 不过字符总量超过了65536
  • 每个汉字都有位置


添加图片注释,不超过 140 字(可选)

  • 所有汉字里面第一个汉字是什么呢?

分布

添加图片注释,不超过 140 字(可选)

  • 第一个字就是一

添加图片注释,不超过 140 字(可选)

  • 一切本是混沌
  • 河出图洛出书
  • 一划开天
  • 分出阴阳


  • 一生二
  • 太极生两仪


  • unicode把一放在中文第一个
  • 感受先人创建文明之源


后面的汉字

  • 分在几个 blocks 里面
  • 最常用的在0x4E00-0x9FBF
  • F、B都是16进制的数字就像1、2、3一样
  • 这个范围就是中日韩(CJK)字符的范围


  • 也属于 2个字节 以内
  • 字符数量也很多


添加图片注释,不超过 140 字(可选)

  • 不过由于汉字数量太多
  • 原来给的空间不够用了


新分空间

  • 又给CJK分配了几个扩展空间
  • Extension


添加图片注释,不超过 140 字(可选)

  • 我们 对比一下
  • 原来 \x表示法 和 \u表示法


两种转义

  • 原来ascii字符a可以用\x61表示
  • \x61 对应十六进制的(61)十六进制
  • 占用个字节
  • 使用\x进行转义


  • 现在unicode字符可以用\u4e00表示
  • \u4e00 对应十六进制的(4e00)十六进制
  • 占用个字节
  • 使用\u进行转义


添加图片注释,不超过 140 字(可选)

  • ascii 字符也能用 \u 的方式进行转义

添加图片注释,不超过 140 字(可选)

  • \u必须得4位16进制数
  • 不过这样有点浪费空间和带宽
  • 序号、字节状态和字符是什么关系呢?

关系

添加图片注释,不超过 140 字(可选)

  • 序号、字节状态和字符
  • 这三个东西也构成一个闭环
  • 就像ascii一样

添加图片注释,不超过 140 字(可选)

  • 我们现在再看一下ord和chr的帮助

ord 和 chr

  • ord将字符的unicode编码转化为单字字符串

添加图片注释,不超过 140 字(可选)

  • chr 将[0,0x10ffff] 转化为unicode 单字字符串

添加图片注释,不超过 140 字(可选)

  • 序号是unicode的序号
  • 在[0,127]范围内
  • ascii 和 unicode 重合
  • unicode 兼容 ascii


  • unicode 形成了主流 之后
  • 会吸取周围的小支流


  • 类似的还有办公文档的标准

办公文档的标准

  • dos时代之后
  • win3.1的年代
  • 微软推出了字体处理软件



添加图片注释,不超过 140 字(可选)

  • 金山在wps的基础上推出了盘古系统

添加图片注释,不超过 140 字(可选)

win95之后

  • win95之后
  • 图形用户界面都基于微软的api进行开发
  • 微软自身也有office系列


添加图片注释,不超过 140 字(可选)

  • 客观上
  • 微软也就制定了办公软件的标准


  • 微软office系列
  • 形成了 主流 之后
  • wps、中文之星只能按照去兼容它的格式


  • 失去了定义标准的可能


  • 规则一旦形成
  • 就会对后来的事物产生影响


  • 其实汉字
  • 也有自己的一套归类规则


按照发音来归类

  • 可以按照发音来归类
  • 甚至可以生成语音...


添加图片注释,不超过 140 字(可选)

  • 还可以进一步归类吗?

韵母归类

  • 押韵助手
  • https://yayun.la/


添加图片注释,不超过 140 字(可选)

  • 可以用来找到押韵词汇

十三道大辙

  • 字典用的是拼音排序
  • 按照声母的顺序
  • 大辙按的是韵母


  • 这样就可以更方便找相同韵母的汉字了

大辙

对应十八韵

一发花

十八韵的一麻

二梭波

十八韵的二波三歌

三乜斜

十八韵的四皆

四衣欺

十八韵的五支、六儿、七齐

五灰堆

十八韵的八微

六怀来

十八韵的九开

七姑苏

十八韵的十姑

八衣欺

十八韵的十一鱼

九由求

十八韵的十二侯

十遥条

十八韵的十三豪

十一言前

十八韵的十四寒

十二人臣

十八韵的十五痕

十三汪洋

十八韵的十六唐

十四中东

十八韵的十七庚和十八东

  • 四、八其实可以合成一道大辙
  • 如果要双押
  • 就得找词组韵母一致的
  • 其实都可以把所有的词归类
  • 然后制作一个押韵神器


  • 很多各种各样的发音
  • 也被所谓的韵
  • 进行分类



  • 词是由字组成的
  • 词是如何编码进入计算机的呢?


编码解码

  • 两个汉字的unicode编码
  • 占用四个字节

添加图片注释,不超过 140 字(可选)

  • 已知汉字,得到 unicode 值,叫做编码
  • 过程为 encode


  • 已知 unicode 值,得到汉字,叫做解码
  • 过程为 decode


encode decode

  • 把 str 字符串 encode 编码 为 bytes 字节序列

添加图片注释,不超过 140 字(可选)

  • 把 bytes 字节序列 decode 解码 为 str 字符串
  • 编码和解码是互为逆运算的

添加图片注释,不超过 140 字(可选)

  • 绕了一圈又回来了

ascii 和 eval

  • ascii 得到字符串的unicode编码状态

添加图片注释,不超过 140 字(可选)

  • eval 得到编码的字符串状态
  • 这两个也是逆运算
  • 好像也可以然绕一个圈
  • eval应该如何理解呢?

eval

  • help(eval)

添加图片注释,不超过 140 字(可选)

  • eval
  • 意思是evaluate衡量
  • 是一个内置的函数
  • __builtins__这个module里面


  • 根据全局变量和局部变量的值进行衡量
  • 这里衡量的是
  • 按unicode形式的编码好的字符串



  • 实际编码的时候是按照什么排序的呢?

unicode 汉字排序

添加图片注释,不超过 140 字(可选)

偏旁部首检字法

添加图片注释,不超过 140 字(可选)

  • 禾木字旁的放到一起

添加图片注释,不超过 140 字(可选)

  • 按照偏旁的次序排列
  • 其实偏门的汉字很多的


  • 偏门的汉字
  • 形成了 小众火星文


火星文

  • 在火星文转化器中
  • 如果爱,请深爱
  • 洳淉嬡,埥堔嬡。


  • 团长,我从此就是杀马特的人了,爱你呦
  • 團萇,莪苁泚僦湜摋骉特哋亾孒,嬡沵呦。


  • 爱我不是你的错
  • 嬡莪芣湜沵哋措


  • 你是我的翅膀
  • 妳ィ是俄棏翄艕


  • today is my birthday
  • 特嘚孓麥波斯嘚



添加图片注释,不超过 140 字(可选)

  • 这真的有点亚文化
  • 用这个问人工智能
  • 也会晕吧?!



火星文输入法

  • 其实火星文就是把常用汉字序号
  • 和不常用的汉字的序号
  • 对应了起来
  • 文字转化就是找到序号的映射



添加图片注释,不超过 140 字(可选)

  • 也是一种 加密方法
  • 你用这语料进行深度学习
  • 学出来也是一头雾水



总结

  • 中文字符可以有各种分类方法
  • 声母
  • 拼音检字法


  • 韵母
  • 合辙押韵的分类


  • 偏旁部首
  • 实际上unicode的排序方法



添加图片注释,不超过 140 字(可选)

  • 我们以前勇闯地下城时候获得了一把屠龙宝刀
  • 给他镶上了宝石
  • 这宝石应该如何理解?


添加图片注释,不超过 140 字(可选)

  • 我们下次再说!
  • 蓝桥->https://www.lanqiao.cn/courses/3584
  • github->https://github.com/overmind1980/oeasy-python-tutorial
  • gitee->https://gitee.com/overmind1980/oeasypython

相关推荐

NUS邵林团队发布DexSinGrasp基于强化学习实现物体分离与抓取统一

本文的作者均来自新加坡国立大学LinSLab。本文的共同第一作者为新加坡国立大学实习生许立昕和博士生刘子轩,主要研究方向为机器人学习和灵巧操纵,其余作者分别为硕士生桂哲玮、实习生郭京翔、江泽宇以及...

「PLC进阶」如何通过编写SCL语言程序实现物料分拣?

01、前言SCL作为IEC61131-3编程语言的一种,由于其高级语言的特性,特别适合复杂运算、复杂数学函数应用的场合。本文以FactoryIO软件中的物料分拣案例作为硬件基础,介绍如何通过SCL来实...

zk源码—5.请求的处理过程一(http1.1请求方法)

大纲1.服务器的请求处理链...

自己动手从0开始实现一个分布式 RPC 框架

前言为什么要自己写一个RPC框架,我觉得从个人成长上说,如果一个程序员能清楚的了解RPC框架所具备的要素,掌握RPC框架中涉及的服务注册发现、负载均衡、序列化协议、RPC通信协议、Socket通信、异...

MLSys’25 | 极低内存消耗:用SGD的内存成本实现AdamW的优化性能

AIxiv专栏是机器之心发布学术、技术内容的栏目。过去数年,机器之心AIxiv专栏接收报道了2000多篇内容,覆盖全球各大高校与企业的顶级实验室,有效促进了学术交流与传播。如果您有优秀的工作想要分享,...

线程池误用导致系统假死(线程池会自动销毁吗)

背景介绍在项目中,为了提高系统性能使用了RxJava实现异步方案,其中异步线程池是自建的。但是当QPS稍微增大之后却发现系统假死、无响应和返回,调用方出现大量超时现象。但是通过监控发现,系统线程数正常...

大型乘用车工厂布局规划(六大乘用车基地)

乘用车工厂的布局规划直接影响生产效率、物流成本、安全性和未来扩展能力。合理的布局应确保生产流程顺畅、物流高效、资源优化,并符合现代化智能制造和绿色工厂的要求。以下是详细的工厂布局规划要点:1.工厂布...

西门子 S7-200 SMART PLC 连接Factory IO的方法

有很多同学不清楚如何西门子200smart如何连接FactoryIO,本教程为您提供了如何使用西门子S7-200SMARTPLC连接FactoryIO的说明。设置PC和PLC之间的...

西门子博图高级仿真软件的应用(西门子博途软件仿真)

1.博图高级仿真软件(S7-PLCSIMAdvancedV2.0)S7-PLCSIMAdvancedV2.0包含大量仿真功能,通过创建虚拟控制器对S7-1500和ET200SP控制器进行仿真...

PLC编程必踩的6大坑——请对号入座,评论区见

一、缺乏整体规划:面条式代码问题实例:某快递分拣线项目初期未做流程图设计,工程师直接开始编写传送带控制程序。后期增加质检模块时发现I/O地址冲突,电机启停逻辑与传感器信号出现3处死循环,导致项目延期2...

统信UOS无需开发者模式安装软件包
统信UOS无需开发者模式安装软件包

原文链接:统信UOS无需开发者模式安装软件包...

2025-05-05 14:55 csdh11

100个Java工具类之76:数据指纹DigestUtils

为了提高数据安全性,保证数据的完整性和真实性,DigestUtils应运而生。正确恰当地使用DigestUtils的加密算法,可以实现数据的脱敏,防止数据泄露或篡改。...

麒麟KYLINIOS软件仓库搭建02-软件仓库添加新的软件包

#秋日生活打卡季#原文链接:...

Java常用工具类技术文档(java中工具类的作用)

一、概述Java工具类(UtilityClasses)是封装了通用功能的静态方法集合,能够简化代码、提高开发效率。本文整理Java原生及常用第三方库(如ApacheCommons、GoogleG...

软路由的用法(自动追剧配置)(软路由教学)

本内容来源于@什么值得买APP,观点仅代表作者本人|作者:值友98958248861环境和需求...