首页 - 技术栈

爱站长尾关键词挖掘工具广告创意设计与制作

作者: 五速梦信息网
时间: 2026年03月21日 10:01

当前位置：首页 > news >正文

爱站长尾关键词挖掘工具,广告创意设计与制作,怎样在网站模板上做修改,wordpress 问卷一、规范背景与目的 MySQL数据库与 Oracle、 SQL Server 等数据库相比#xff0c;有其内核上的优势与劣势。我们在使用MySQL数据库的时候需要遵循一定规范#xff0c;扬长避短。本规范旨在帮助或指导RD、QA、OP等技术人员做出适合线上业务的数据库设计。在数据库变更和处理…一、规范背景与目的 MySQL数据库与 Oracle、 SQL Server 等数据库相比有其内核上的优势与劣势。我们在使用MySQL数据库的时候需要遵循一定规范扬长避短。本规范旨在帮助或指导RD、QA、OP等技术人员做出适合线上业务的数据库设计。在数据库变更和处理流程、数据库表设计、SQL编写等方面予以规范从而为公司业务系统稳定、健康地运行提供保障。二、Mysql数据库设计规范详细 2.1 数据库设计以下所有规范会按照【高危】、【强制】、【建议】三个级别进行标注遵守优先级从高到低。对于不满足【高危】和【强制】两个级别的设计DBA会强制打回要求修改。 2.1.1 库名

【强制】库的名称必须控制在32个字符以内相关模块的表名与表名之间尽量体现join的关系如user表和user_login表。
【强制】库的名称格式业务系统名称_子系统名同一模块使用的表名尽量使用统一前缀。
【强制】一般分库名称命名格式是库通配名_编号编号从0开始递增比如web_db_001以时间进行分库的名称格式是“库通配名_时间”
【强制】默认使用utf8字符集无乱码风险除一些需要存储特殊符号的字段可以采用utf8mb4比如文章内容字段支持表情符号等。创建数据库SQL举例create database db1 default character set utf8;。
【强制】排序规则默认使用utf8-general-ci。 2.1.2 表结构
【强制】表和列的名称必须控制在32个字符以内表名只能使用字母、数字和下划线一律小写。
【强制】表名要求模块名强相关如师资系统采用”sz”作为前缀渠道系统采用”qd”作为前缀等。
【强制】创建表时必须显式指定字符集为utf8或utf8mb4。
【强制】创建表时必须显式指定表存储引擎类型如无特殊需求一律为InnoDB。当需要使用除InnoDB/MyISAM/Memory以外的存储引擎时必须通过DBA审核才能在生产环境中使用。因为Innodb表支持事务、行锁、宕机恢复、MVCC等关系型数据库重要特性为业界使用最多的MySQL存储引擎。而这是其他大多数存储引擎不具备的因此首推InnoDB。
【强制】建表必须有comment说明
【建议】建表时关于主键 (1)、【建议】强制要求主键为id类型为int或bigint且为auto_increment (2)、【建议】标识表里每一行主体的字段不要设为主键建议设为其他字段如user_idorder_id等并建立unique key索引。因为如果设为主键且主键值为随机插入则会导致innodb内部page分裂和大量随机I/O性能下降。 (3)、【强制】每张表必须要有主键业务上有主键字段的优先选择业务主键否则选择无业务性的默认id主键数据类型选择自增 bigint unsigned。因为如果设为主键且主键值为随机插入则会导致innodb内部page分裂和大量随机I/O性能下降。
【建议】核心表如用户表金钱相关的表必须有行数据的创建时间字段create_time和最后更新时间字段update_time便于查问题。
【建议】表中所有字段必须都是NOT NULL属性业务可以根据需要定义DEFAULT值。因为使用NULL值会存在每一行都会占用额外存储空间、数据迁移容易出错、聚合函数计算结果偏差等问题。
【建议】建议对表里的blob、text等大字段垂直拆分到其他表里仅在需要读这些对象的时候才去select。
【建议】反范式设计把经常需要join查询的字段在其他表里冗余一份。如user_name属性在user_accountuser_login_log等表里冗余一份减少join查询。
【强制】中间表用于保留中间结果集名称必须以tmp_开头。备份表用于备份或抓取源表快照名称必须以bak_开头。中间表和备份表定期清理。
【强制】对于超过100W行的大表进行alter table必须经过DBA审核并在业务低峰期执行。因为alter table会产生表锁期间阻塞对于该表的所有写入对于业务可能会产生极大影响。 2.1.3 列数据类型优化
【建议】表中的自增列auto_increment属性推荐使用bigint类型。因为无符号int存储范围为-2147483648~2147483647大约21亿左右溢出后会导致报错。
【建议】业务中选择性很少的状态status、类型type等字段推荐使用tinytint或者smallint类型节省存储空间。
【建议】业务中IP地址字段推荐使用int类型不推荐用char(15)。因为int只占4字节可以用如下函数相互转换而char(15)占用至少15字节。一旦表数据行数到了1亿那么要多用1.1G存储空间。 SQLselect inet_aton(192.168.2.12); select inet_ntoa(3232236044); PHP: ip2long(‘192.168.2.12’); long2ip(3530427185);
【建议】不推荐使用enumset。因为它们浪费空间且枚举值写死了变更不方便。推荐使用tinyint或smallint。
【建议】不推荐使用blobtext等类型。它们都比较浪费硬盘和内存空间。在加载表数据时会读取大字段到内存里从而浪费内存空间影响系统性能。建议和PM、RD沟通是否真的需要这么大字段。Innodb中当一行记录超过8098字节时会将该记录中选取最长的一个字段将其768字节放在原始page里该字段余下内容放在overflow-page里。不幸的是在compact行格式下原始page和overflow-page都会加载。
【强制】金额字段使用decimal类型并给予足够的长度及精度。在性能要求比较苛刻的情况下使用bigint类型单位是分如果是其他货币需要定义其他单位
【建议】文本数据尽量用varchar存储。因为varchar是变长存储比char更省空间。MySQL server层规定一行所有文本最多存65535字节因此在utf8字符集下最多存21844个字符超过会自动转换为mediumtext字段。而text在utf8字符集下最多存21844个字符mediumtext最多存2^24/3个字符longtext最多存2^32个字符。一般建议用varchar类型字符数不要超过2700。
【建议】时间类型尽量选取timestamp。因为datetime占用8字节timestamp仅占用4字节但是范围为1970-01-01 00:00:01到2038-01-01 00:00:00。更为高阶的方法选用int来存储时间使用SQL函数unix_timestamp()和from_unixtime()来进行转换。 2.1.4 索引设计
【强制】InnoDB表必须主键为id int/bigint auto_increment,且主键值禁止被更新。
【建议】主键的名称以“pk”开头唯一键以“uk”或“uq”开头普通索引以“idx”开头一律使用小写格式以表名/字段的名称或缩写作为后缀。
【强制】InnoDB和MyISAM存储引擎表索引类型必须为BTREEMEMORY表可以根据需要选择HASH或者BTREE类型索引。
【强制】单个索引中每个索引记录的长度不能超过64KB。
【建议】单个表上的索引个数不能超过7个。
【建议】在建立索引时多考虑建立联合索引并把区分度最高的字段放在最前面。如列userid的区分度可由select count(distinct userid)计算出来。
【建议】在多表join的SQL里保证被驱动表的连接列上有索引这样join执行效率最高。
【建议】建表或加索引时保证表里互相不存在冗余索引。对于MySQL来说如果表里已经存在key(a,b)则key(a)为冗余索引需要删除。 2.1.5 分库分表、分区表
【强制】分区表的分区字段partition-key必须有索引或者是组合索引的首列。
【强制】单个分区表中的分区包括子分区个数不能超过1024。
【强制】上线前RD或者DBA必须指定分区表的创建、清理策略。
【强制】访问分区表的SQL必须包含分区键。
【建议】单个分区文件不超过2G总大小不超过50G。建议总分区数不超过20个。
【强制】对于分区表执行alter table操作必须在业务低峰期执行。
【强制】采用分库策略的库的数量不能超过1024
【强制】采用分表策略的表的数量不能超过4096
【建议】单个分表不超过500W行ibd文件大小不超过2G这样才能让数据分布式变得性能更佳。
【建议】水平分表尽量用取模方式日志、报表类数据建议采用日期进行分表。 2.1.6 字符集
【强制】数据库本身库、表、列所有字符集必须保持一致为utf8或utf8mb4。
【强制】前端程序字符集或者环境变量中的字符集与数据库、表的字符集必须一致统一为utf8。 2.1.7 程序层DAO设计建议
【建议】新的代码不要用model推荐使用手动拼SQL绑定变量传入参数的方式。因为model虽然可以使用面向对象的方式操作db但是其使用不当很容易造成生成的SQL非常复杂且model层自己做的强制类型转换性能较差最终导致数据库性能下降。
【建议】前端程序连接MySQL或者redis必须要有连接超时和失败重连机制且失败重试必须有间隔时间。
【建议】前端程序报错里尽量能够提示MySQL或redis原生态的报错信息便于排查错误。
【建议】对于有连接池的前端程序必须根据业务需要配置初始、最小、最大连接数超时时间以及连接回收机制否则会耗尽数据库连接资源造成线上事故。
【建议】对于log或history类型的表随时间增长容易越来越大因此上线前RD或者DBA必须建立表数据清理或归档方案。
【建议】在应用程序设计阶段RD必须考虑并规避数据库中主从延迟对于业务的影响。尽量避免从库短时延迟20秒以内对业务造成影响建议强制一致性的读开启事务走主库或更新后过一段时间再去读从库。
【建议】多个并发业务逻辑访问同一块数据innodb表时会在数据库端产生行锁甚至表锁导致并发下降因此建议更新类SQL尽量基于主键去更新。
【建议】业务逻辑之间加锁顺序尽量保持一致否则会导致死锁。
【建议】对于单表读写比大于10:1的数据行或单个列可以将热点数据放在缓存里如mecache或redis加快访问速度降低MySQL压力。 2.1.8 一个规范的建表语句示例一个较为规范的建表语句为 CREATE TABLE user ( id bigint(11) NOT NULL AUTO_INCREMENT, user_id bigint(11) NOT NULL COMMENT ‘用户id’ username varchar(45) NOT NULL COMMENT 真实姓名, email varchar(30) NOT NULL COMMENT ‘用户邮箱’, nickname varchar(45) NOT NULL COMMENT 昵称, avatar int(11) NOT NULL COMMENT 头像, birthday date NOT NULL COMMENT 生日, sex tinyint(4) DEFAULT 0 COMMENT 性别, short_introduce varchar(150) DEFAULT NULL COMMENT 一句话介绍自己最多50个汉字, user_resume varchar(300) NOT NULL COMMENT 用户提交的简历存放地址, user_register_ip int NOT NULL COMMENT ‘用户注册时的源ip’, create_time timestamp NOT NULL COMMENT ‘用户记录创建的时间’, update_time timestamp NOT NULL COMMENT ‘用户资料修改的时间’, user_review_status tinyint NOT NULL COMMENT ‘用户资料审核状态1为通过2为审核中3为未通过4为还未提交审核’, PRIMARY KEY (id), UNIQUE KEY idx_user_id (user_id), KEY idx_username(username), KEY idx_create_time(create_time,user_review_status) ) ENGINEInnoDB DEFAULT CHARSETutf8 COMMENT网站用户基本信息; 2.2 SQL编写 2.2.1 DML语句
【强制】SELECT语句必须指定具体字段名称禁止写成*。因为select *会将不该读的数据也从MySQL里读出来造成网卡压力。且表字段一旦更新但model层没有来得及更新的话系统会报错。
【强制】insert语句指定具体字段名称不要写成insert into t1 values(…)道理同上。
【建议】insert into…values(XX),(XX),(XX)…。这里XX的值不要超过5000个。值过多虽然上线很很快但会引起主从同步延迟。
【建议】SELECT语句不要使用UNION推荐使用UNION ALL并且UNION子句个数限制在5个以内。因为union all不需要去重节省数据库资源提高性能。
【建议】in值列表限制在500以内。例如select… where userid in(….500个以内…)这么做是为了减少底层扫描减轻数据库压力从而加速查询。
【建议】事务里批量更新数据需要控制数量进行必要的sleep做到少量多次。
【强制】事务涉及的表必须全部是innodb表。否则一旦失败不会全部回滚且易造成主从库同步终端。
【强制】写入和事务发往主库只读SQL发往从库。
【强制】除静态表或小表100行以内DML语句必须有where条件且使用索引查找。
【强制】生产环境禁止使用hint如sql_no_cacheforce indexignore keystraight join等。因为hint是用来强制SQL按照某个执行计划来执行但随着数据量变化我们无法保证自己当初的预判是正确的因此我们要相信MySQL优化器
【强制】where条件里等号左右字段类型必须一致否则无法利用索引。
【建议】SELECT|UPDATE|DELETE|REPLACE要有WHERE子句且WHERE子句的条件必需使用索引查找。
【强制】生产数据库中强烈不推荐大表上发生全表扫描但对于100行以下的静态表可以全表扫描。查询数据量不要超过表行数的25%否则不会利用索引。
【强制】WHERE 子句中禁止只使用全模糊的LIKE条件进行查找必须有其他等值或范围查询条件否则无法利用索引。
【建议】索引列不要使用函数或表达式否则无法利用索引。如where length(name)Admin或where user_id210023。
【建议】减少使用or语句可将or语句优化为union然后在各个where条件上建立索引。如where a1 or b2优化为where a1… union …where b2, key(a),key(b)。
【建议】分页查询当limit起点较高时可先用过滤条件进行过滤。如select a,b,c from t1 limit 10000,20;优化为: select a,b,c from t1 where id10000 limit 20;。 2.2.2 多表连接
【强制】禁止跨db的join语句。因为这样可以减少模块间耦合为数据库拆分奠定坚实基础。
【强制】禁止在业务的更新类SQL语句中使用join比如update t1 join t2…。
【建议】不建议使用子查询建议将子查询SQL拆开结合程序多次查询或使用join来代替子查询。
【建议】线上环境多表join不要超过3个表。
【建议】多表连接查询推荐使用别名且SELECT列表中要用别名引用字段数据库.表格式如select a from db1.table1 alias1 where …。
【建议】在多表join中尽量选取结果集较小的表作为驱动表来join其他表。 2.2.3 事务
【建议】事务中INSERT|UPDATE|DELETE|REPLACE语句操作的行数控制在2000以内以及WHERE子句中IN列表的传参个数控制在500以内。
【建议】批量操作数据时需要控制事务处理间隔时间进行必要的sleep一般建议值5-10秒。
【建议】对于有auto_increment属性字段的表的插入操作并发需要控制在200以内。
【强制】程序设计必须考虑“数据库事务隔离级别”带来的影响包括脏读、不可重复读和幻读。线上建议事务隔离级别为repeatable-read。
【建议】事务里包含SQL不超过5个支付业务除外。因为过长的事务会导致锁数据较久MySQL内部缓存、连接消耗过多等雪崩问题。
【建议】事务里更新语句尽量基于主键或unique key如update … where idXX; 否则会产生间隙锁内部扩大锁定范围导致系统性能下降产生死锁。
【建议】尽量把一些典型外部调用移出事务如调用webservice访问文件存储等从而避免事务过长。
【建议】对于MySQL主从延迟严格敏感的select语句请开启事务强制访问主库。 2.2.4 排序和分组
【建议】减少使用order by和业务沟通能不排序就不排序或将排序放到程序端去做。order by、group by、distinct这些语句较为耗费CPU数据库的CPU资源是极其宝贵的。
【建议】order by、group by、distinct这些SQL尽量利用索引直接检索出排序好的数据。如where a1 order by b可以利用key(a,b)。
【建议】包含了order by、group by、distinct这些查询的语句where条件过滤出来的结果集请保持在1000行以内否则SQL会很慢。 2.2.5 线上禁止使用的SQL语句
【高危】禁用update|delete t1 … where aXX limit XX; 这种带limit的更新语句。因为会导致主从不一致导致数据错乱。建议加上order by PK。
【高危】禁止使用关联子查询如update t1 set … where name in(select name from user where…);效率极其低下。
【强制】禁用procedure、function、trigger、views、event、外键约束。因为他们消耗数据库资源降低数据库实例可扩展性。推荐都在程序端实现。
【强制】禁用insert into …on duplicate key update…在高并发环境下会造成主从不一致。
【强制】禁止联表更新语句如update t1,t2 where t1.idt2.id… 2.3 数据库运维操作规范 2.3.1 基础操作规范 (1) 【强制】禁止应用在服务器安装MySQL客户端可以安装开发包。 (2) 【强制】禁止开发人员在SQL中添加HintHint只能由DBA审核后添加。 (3) 【强制】禁止使用悲观锁定即读锁 select … for update。 (4) 【强制】禁止在开发代码中使用 DDL 语句比如truncatealert table …等。 (5) 【强制】禁止DML语句的where条件中包含恒真条件如11。 (6) 【推荐】所有的建表操作需要提前告知该表涉及的查询SQL。 (7) 【推荐】所有的建表需要确定建立哪些索引后才可以建表上线。 (8) 【推荐】所有的改表结构、加索引操作都需要将涉及到所改表的查询sql发出来告知DBA等相关人员。 (9) 【推荐】在建新表加字段之前要求研发至少要提前3天邮件出来预留DBA评估、优化和审核的时间。 (10) 【推荐】批量导入、导出数据必须提前通知DBA协助观察。 (11) 【推荐】禁止在线上生产库执行后台管理和统计类查询。 (12) 【推荐】推广活动或上线新功能必须提前通知DBA进行流量评估。 (13) 【推荐】不在业务高峰期批量更新、查询数据库。 (14) 【推荐】选择合适的版本、安装次新的补丁 (15) 【推荐】禁止使用mysql命令行历史记录 (16) 【推荐】使用专用的最小权限账号运行mysql数据库进程 2.3.2 账号权限管理规范 1、账户设置 (1) 【强制】在系统正式使用前数据库管理员应修改系统默认密码并对不需要的帐号进行删除或锁定。 (2) 【强制】数据库管理员具有最高数据库管理权限其他人员需要直连访问数据库或需要具有一定数据库操作权限必须向数据库部门和业务部门主管领导申请审批通过后由数据库管理员告知用户权限等信息。其他人员通过业务系统访问数据库。 (3) 【强制】数据库管理员为每一个数据库用户根据需要的权限建立专门的账号以区分责任提高系统的安全性用户必须使用自己的账号登录数据库。 (4) 【推荐】对账号权限的设置遵从最小化原则。 (5) 【强制】普通数据库用户账户与数据库管理员账户分离。 2、用户类型 (1) 系统管理员能够管理数据库系统中的所有组件及所有数据库 (2) 数据库管理员能够管理相关数据库中的账户、对象及数据 (3) 数据库用户只能以特定的权限访问特定的数据库对象不具有数据库管理权限。 3、用户权限 (1) 【强制】针对每个数据库账户按最小权限原则设置其在相应数据库中的权限。包括如下几种权限 \1) 系统管理权限包括账户管理、服务管理、数据库管理等 \2) 数据库管理权限包括创建、删除、修改数据库等 \3) 数据库访问权限包括插入、删除、修改数据库特定表记录等。 (2) 【强制】禁止有super权限的应用程序账号存在。安全第一super权限会导致read only失效导致较多诡异问题而且很难追踪。 4、用户操作 (1) 【强制】禁止明文传播数据库账号和密码。 (2) 【强制】禁止开发工程师通过应用账号登录生产数据库。 (3) 【强制】禁止简单密码线上密码要求随机9位。 (4) 【强制】用户敏感数据禁止直接展示必须对展示数据进行脱敏明文密码、手机号、身份证号等敏感信息需要加密后存储。 (5) 【强制】用户输入的SQL参数严格使用参数绑定或者smetadata字段值限定防止SQL注入禁止字符串拼接SQL访问数据库。 (6) 【强制】用户请求传入的任何参数必须做有效性验证。 (7) 【强制】禁止向HTML页面输出未经安全过滤或未正确转义的用户数据。 (8) 【强制】表单、AJAX提交必须执行CSRF安全验证。 (9) 【强制】在使用平台资源譬如短信、邮件、电话、下单、支付必须实现正确的防重放的机制如数量限制、疲劳度控制、验证码校验避免被滥刷而导致资损。 (10) 【强制】发贴、评论、发送即时消息等用户生成内容的场景必须实现防刷、文本内容违禁词过滤等风控策略。 2.3 备份与恢复管理规范 (1) 【推荐】数据库系统管理员应对数据库系统的配置参数及相关文件进行备份当配置发生变更时必须重新备份以便系统故障时能尽快恢复系统配置。 (2) 【推荐】应制定数据库系统的备份策略定期对数据库系统进行备份。 (3) 【推荐】数据库备份策略的制定要以尽可能高效地进行备份与恢复为目标并且与操作系统的备份最好地结合宜采用物理备份与逻辑备份相结合。 (4) 【推荐】必须对备份权限的设置加以严格控制。 (5) 【推荐】必须妥善存放和保管备份介质包括磁盘、从数据库导出的文件等防止非法访问。对备份的介质应做好标识存放环境符合要求。 (6) 【推荐】应该每年对长期保存的备份进行校验以防止在需要时备份不可用的情况发生。校验应使用专业的校验工具进行。 (7) 【推荐】重要的数据必须设计和实施异地容灾的方案异地容灾备份的方式和频率要结合对数据的完全恢复或不完全恢复等因素进行考虑。 2.3.3 日志及监控审计 (1) 【推荐】管理员应制定日志文件命名规则并按照日志文件命名规则创建所需的日志文件。 (2) 【推荐】数据库管理员应防止日志数据丢失要求日志存储已满时应采取相应的防止日志数据丢失的措施如忽略审计事件、覆盖已存储的最老的审计事件、日志文件自动生长、重新创建日志文件等。 (3) 【推荐】日志文件应与数据库数据一样定期备份并妥善安全保存这些备份日志防止备份日志的丢失、泄露与被篡改。 (4) 【推荐】数据库管理员应采取措施保证只有授权用户才能访问日志信息。 (5) 【推荐】数据库管理员定期对数据库进行安全审计内容包括用户权限、访问限制等。 2.3.4 数据存储、归档管理 (1) 【推荐】数据库管理员应结合各个应用系统确定存储在当前数据库系统中的在线数据的有效使用期限需要更新的要做到及时更新必要时应与应用开发人员配合做好此项工作。 (2) 【推荐】对暂时不用的数据可转移到海量存储介质中以腾出数据库系统中有限的磁盘空间及时清理无用的数据。 (3) 【推荐】对存储有数据的海量存储介质必须妥善保管好。既要保证存放的物理环境也要避免对备份数据的非授权访问。 (4) 【推荐】同一数据必须有两个以上的副本并且异地存放。 (5) 【推荐】硬件、软件更新换代时要明确每一项数据的去留与否做好迁移或清理工作。对一时难以确定去留的数据可存储在海量存储介质中。 (6) 【推荐】存储在海量存储介质中的数据必须保证能够正确地读出来供正常使用。否则必须及时将数据转移到新的海量存储介质中去。【推荐】对需要归档的历史数据等要按照归档的有关规定进行归档