从0到1：商城项目的快速落地

见贤思齐

从0到1：商城项目的快速落地 从0到1：商城项目的快速落地 史鹏治 贝壳产品技术 贝壳产品技术 “贝壳产品技术公众号”作为贝壳官方产品技术号，致力打造贝壳产品、技术干货分享平台，面向互联网/O2O开发/产品从业者，每周推送优质产品技术文章、技术沙龙活动及招聘信息等。欢迎大家关注我们。 242篇内容 2017年07月28日 15:20 商城项目是公司的初创业务，2017年4月到6月间，经历了从0到1的过程。在两个月多时间，完成了商品浏览、下单、支付、仓储、物流的完整闭环，搭建了买家系统、卖家后台、运营中心三个系统。这个过程中经历了很多思考与选择，本文将从以下几个方面介绍相关的思考。另外在文末分享团队建设方面的心得。作者｜史鹏治网址｜tech.lianjia.com微信公众号｜链家产品技术团队业务：产品为王、技术服务于业务效率：合理复用、高效自建、便于扩展安全：面向外网用户，金钱交易优化：抓住重点，阶段性优化 业务篇 新项目需要快速迭代，反复试错，在初期没有详细的产品设计文档，研发同学必须深入理解业务，从头到尾进行思考：要做成什么样？为什么做？用户体验怎么样？以此为基础，再去想技术如何实现。库存管理作为供应链管理的重要组成部分，不论对电商还是实体企业都至关重要，库存体系的构建异常复杂，我们以库存系统和仓库系统为例，介绍我们如何从思考业务需求到设计数据结构，希望能为开发同学在实现业务需求时提供思路。第一步、梳理需求通过调研电商网站和实地考察仓库，总结出库存的需求分为线上和线下：线上：电商网站的商品页上需要告诉用户是否可以购买当前商品？还可以购买几件？下单时需要扣减库存，预售活动需要设置预售数量等等。线下：对于家居这类实物商品要有大型仓库存储，需要管理每日进入仓库的商品种类，每种商品的总量，每日发出商品数量，每种商品的剩余数量，剩余商品置于仓库的存储位置等等。线上商品的库存变化和线下仓库密不可分，而仓库又和销售、采购相关、以下是简单的示意库存变动的影响因素。库存变动的影响因素由此我们可以梳理出与库存相关的业务需求都有哪些。第二步、明确概念梳理出业务需求后，我们对库存的概念进行拆分，定位更明确。库存系统：管理各个商品的实时库存数量，面向前台，商品粒度；仓库系统：管理实体仓里面的库存数量，面向后台，批次粒度；有了仓库系统就可以管理商品的数量，为什么还要有库存系统呢？某个商品A在实体仓里面有10个，仓库系统负责管理商品A的数量，以及它的位置信息。但是商品A在网站上不一定允许卖10个。因为可能在网站上已经有3个被用户买掉，只不过这3个商品还没有出库，所以在仓库系统里商品Ａ还有10个，但此时网站上只能卖７个，这种可售卖的数量仓库系统是区分不出来的，它只是负责管理在当前时刻仓库里一共有多少库存，并不区分商品的状态信息。所以库存系统主要是用来解决这个问题。仓库系统管理的是仓库里面商品的实际数量，库存系统管理的是商品的可销售数量。第三步、分层设计有了清晰的概念，并且梳理出库存和仓库之间的关系后，从用户的角度出发，采用分层设计，分为销售层（库存系统），仓库层（仓库系统）。库存分层 销售层：面向前端用户，库存决定是否可售卖，下单是否能成功。在活动秒杀时，活动库存决定是否可以秒杀成功；预售时，预售库存决定是否可以预定。 仓库层：对应实物库存，采购入库、下单出库、退货入库、盈亏盘点、仓库调拨都会引起仓库库存的变动。第四步、解决难点库存如何同步？库存的变动有两种流向，自上而下（销售层 → 仓库层）、自下而上（仓库层 → 销售层）两种。自上而下：用户下单后，首先会生成订单，扣减销售层的库存；然后生成发货通知单，推送至仓库，仓库系统同步响应，扣减库存进行出库。自下而上：主要有三种入库：采购入库单、退货入库单、调拨入库单的实物入库，会连锁引起仓库层、销售层的可用库存逐步增加。下图为售后订单、订单发货、采购入库等引起的库存变动、仓库库存变动：库存系统、仓库系统、商城其他系统如何交互？ 我们针对采购入库、下单出库、退货入库三个需求，梳理了各系统之间的时序图，考虑了各种异常情况。下图截取了退货时未付款和已付款两种场景举例：退货的部分场景时序图除此之外还有诸多细节不在这里说明，如盘点库存、库存/仓库系统如何对账等。第五步、设计数据结构数据结构是web开发的基石，在项目之初应当尽可能的设计出较为完善的数据结构，并且具有一定的前瞻性。上线后再对表结构重构或频繁变更，将会带来代码变更，数据补全等问题，这些问题的解决成本是巨大的。正是由于我们梳理了需求、设计出不同层级的库存系统、清晰各系统的交互、并且针对核心问题设计出解决方案，这才使得我们能够设计出较为完善数据结构。数据表E-R图效率篇 初创项目，会不断的试错，需求变更频繁。这就要求我们快速迭代、持续交付、尽早反馈。所以提高效率、快速落地是我们重点关注的问题。下面将从三方面介绍我们是如何高效开发的：·合理复用现有服务、框架、技术组件·代码具有可扩展性·高效的工作效率一、合理复用 在系统建设初期要求快速上线，所以首先要思考哪些服务可以直接复用，避免重复造轮子，节省开发成本。其次哪些服务需要自建，避免协作团队不能及时响应我们的需求。1.通用服务通用服务指的是公司或部门级别的基础服务或业务平台，能否复用主要从几方面考量：功能是否符合当前业务需求；平台是否稳定，有完善的监控；是否有稳定的团队或人员维护；由于前期用户量较少，且通用服务平台为支撑多个业务线设计，所以可以暂时不用考虑性能因素。基于上面的考虑，我们复用的通用服务有：图片系统、搜索平台、监控平台、数据平台。2.自建业务系统之前提到系统建设初期有种种问题，所以在自建业务系统时尽量简单、灵活、可扩展。简单：工程目录、代码结构都从简单入手，避免复杂设计带来的维护成本；灵活：前期多采用单体式应用，不使用SOA，但考虑到中短期规划，将系统根据业务划分多个模块，各个模块高内聚、低耦合，便于以后服务化改造。后面架构优化章节会详细介绍。可扩展：下面一节会详细介绍可扩展。3.技术框架与组件在技术框架和组件选择时，偏向于成熟框架，成熟技术组件。选择时需要考虑：·技术文档是否完善；·技术问题解决方案是否全面；·是否能够完全满足当前需求；·接入是否简单、是否易用，是否便于维护；以数据访问中间件的选择为例，前期需求：读写分离，卖家侧、运营侧读写从库，不影响买家侧读主库的性能。最初我们选择当当的开源框架sharding-jdbc，该框架功能完备，性能影响较小，符合需求。但使用过程中发现该框架存在一些bug，bug解决方法难以查询，提交开源组织解决又需要跟版本升级，迭代较慢。最终放弃该框架，选择自己编写基于mybatis的读写分离方案，该方案虽然功能单一，但正因为功能单一，代码量少，便于维护，能够满足前期需求。基于上面对通用服务复用、自建业务系统的思考，商城项目初期整体架构落地形式如下图所示：二、便于扩展 项目初期一些运营决策是不确定的，有时候会频繁变化或尝试接入多家供应商，例如：与第三方仓储物流系统的对接，开始选定的是德邦，但经过深入调研、在与德邦沟通联调的过程中，发现成本过高、系统对接响应慢、用户体验差等问题后，会随时更换供应商或选择多个供应商。为了应对这些变化，要求我们在编写代码时尽量做到可扩展、可替换，避免运营的决策变更增加大量开发成本，推迟上线时间点。 选择恰当的设计模式很好的帮助我们解决这些问题，针对上面的场景，我们采用桥接模式支持多个第三方仓储物流系统的可插拔式切换。 基本原理：将抽象部分（仓库系统与物流系统对接的接口）与它的实现部分（具体第三方接口调用实现）分离，使它们都可以独立的变化。由于行业内有较规范的物流系统解决方案，所以仓库系统与物流系统对接的接口一般不会随着接入的第三方不同而变化，但具体的第三方物流公司的接口协议、参数会有不同，所以如果需要替换第三方物流公司，采用桥接模式只需要编写接口的具体实现类即可。具体的代码类图如下：桥模式仓储设计类图除此之外，还使用了多种设计模式解决扩展性问题：状态模式-用于订单状态的流转，随着业务功能的逐步完善，状态流转会越来越复杂，状态模式抽象了订单状态的转变，新增业务功能后只需要新增订单状态流转实现类；模板方法模式-用于性能统计，随着系统统计、监控功能的逐步完善，代码中需要埋点的地方越来越多，模板方法将统计、监控代码抽离出来统一维护，避免对代码的侵入。三、提高工作效率除了系统架构和代码编写提效外，要尽可能用有限的时间完成更多的开发任务，在这里与大家分享一些可以提升工作效率的方法。·如果可能就别去开会：会议会导致多人效率的同时下降。如果不是那种非参加不可的会议，那就别参加了。你可以说手头还有很多事情要做（也许事实就是如此），然后在会议后问一下参会的同事，了解一下重要的内容就行。如果真的有必要参加某个会议，那么请记住下面这些原则：o一定要设定好要讨论的主题，别随意发散o设定严格的会议结束时间，会议时间控制在1小时内o会议结束时一定要确定好清晰的下一步行动计划·先做必要的需求：敢于和PM说不，为了达成本次迭代上线目标，整理出必要的需求点和非必要的需求点。制定排期时根据产品、运营要求的时间点倒推（在业务前期多数情况是多部门同步配合，产品尽快投入市场，所以上线时间点非常关键），如果时间不够开发所有需求点，要和产品沟通先确保必要的需求按时完成，不必要的需求排在下次迭代。·自动化：在面对无聊的事情时，尽可能自动化，比如自动比较线上库和测试库的表结构变更，使用mysqldbcompare工具自动比较并生成表结构变更SQL。请不要将你的精力浪费在机器能够更快、更可靠完成的事情上。·多做事半功倍的事情：有时候花精力做一些与编码相关的事情，反而能起到事半功倍的效果。例如：编码过程花费一些时间编写单元测试，看似增加了开发成本，但会节省团队成员之间联调、QA测试、修复bug的时间。安全篇 由于商城项目直接涉及金钱交易，其本身安全性至关重要，如果用户在做金钱交易时出现安全问题，这会给公司的品牌形象、网站的信誉带来毁灭性打击，也会给用户带来经济损失。所以研发团队需认真对待安全问题，不仅是对用户负责，也是对公司负责，对自己的职业生涯负责。想要在两个月时间内开发出一个安全的Web应用其实是非常困难的。这是个比较大的话题，篇幅有限，在本文中只做简单介绍，后续将用一篇文章的篇幅重点介绍相关的细节。如何在有限的时间里构建一个相对安全的网站？构建防御体系，安全是个全方位的事情，某一个环节存在漏洞就会导致满盘皆输建立安全开发流程，从技术上降低安全风险一、防御体系 结合系统的整体架构，从下面4个层面采取安全措施，在这里列出我们在前期所做的一些工作，具体细节将在后续文章重点介绍。客户端：Xss攻击防御，XssFilter过滤请求参数，重要cookie设置httponlyCRSF防御，参数加密生成token并放在表单提交时传递URL跳转，建立白名单对重定向url校验网络层：使用HTTPS协议内往网分离，服务器间调用采用内网域名，确保后台数据库和后台服务无法通过外网访问端口控制，所有服务只开启必要端口，关闭不用端口应用层：业务逻辑校验，如：只允许用户操作自己的订单、支付金额与下单金额比较等针对刷单、恶意攻击行为增加防御，如：增加购买次数限制、支付超时时间等安全的API确保用户使用API之前对其认证，如：登录、签名确保API没有可枚举资源，如：订单号、用户ID等API参数校验后台应用用户访问权限控制数据层使用mybatis预编译机制避免SQL注入最小访问权限分配数据库账号二、安全开发流程 软件开发有一套完整的开发周期，同样安全也有SDL（软件安全开发周期），SDK是从安全角度指导软件开发过程的一套管理模式，将软件安全的考虑集成在软件开发的每一个阶段需求分析、设计、编码、测试和维护。 我们按照SDL进行开发，使得提前发现安全风险、确保安全策略正确落实、快速修复安全漏洞，确保在一次次迭代上线后，交付一个相对安全的版本。各阶段所做工作如下图所示：优化篇 在业务前期，访问量的绝对值虽然还不是太高，但我们仍然需要持续关注接口的性能与响应时间。特别是业务推广初期，用户的第一印象将直接影响其对业务的心理评判。由于业务压力大，用户访问量不太高，在性能优化上又不能投入过多精力，这就需要我们权衡成本与收益，要做适度的优化。综上，最终把精力放在针对移动网络下页面加载速度的提升，主要从链路优化和架构优化两方面进行。一、链路优化PC时代我们访问网站的接入条件是相对恒定的，所以在开发时很少考虑网络对用户体验的影响。但是移动APP则不然，尤其是在中国，基础的移动网络环境并不好，而且我们有很多用户的访问是发生在地铁、公交车这样的移动环境下，移动基站的频繁切换进一步增加了网络的不稳定。从下图手机淘宝统计出的数据可以看出，电商网站活跃用户中有不少来自类似2G这样的弱网环境，如果端到云连接不稳定、高延时，那么所有的用户体验都无从谈起。所以链路优化是我们提升用户体验，提高性能的重要环节。手淘移动网络使用占比图 链路优化的目标：提升用户访问体验（低延时）。服务端响应时间只占整个请求路径上的很小一部分，无线端更多的是优化中间通道，我们主要从三方面进行了优化：减少数据传输：图片采用webp格式（有损100%压缩，大小减少30%），减小图片大小，前端根据浏览器版本自适应图片格式Tomcat开启gzip压缩，减小返回结果大小连接优化：请求合并，使得一个页面尽量少的请求CDN厂商优化Tomcat开启HTTP2（减少协议头信息、减少响应信息、降低页面下载的连接数）TCP协议参数调优提高可用连接数量，重启TIME_WAIT sockets关闭TCP快速回收设置合理的SYN队列长度、缓冲区大小（Socket buffer > 64k）初始拥塞控制窗口不小于10。因为大部分页面在10kB以下，很多请求在慢启动阶段已经结束，改为10可以降低小页面资源传输时延。内容越大，这个选项的效果就比较不明显开启keepalive，减少CLOSE_WAIT sockets利用并发：前端js包拆分针对图片异步加载，合理的预加载机制前后端分离、ajax并发调用后端接口二、架构优化除了链路的优化，面对当前的需求，首先面临的问题是选择什么样的应用架构，既能支持现有的业务需求、性能要求，又能面向未来，保证架构平滑过渡。应用作为独立可部署的单元，为系统划分了明确的边界，深刻影响系统功能组织、代码开发、部署和运维等各方面。我们思考的过程中主要参考两种应用架构：单体架构、面向服务架构。1. 单体架构：不切分系统，系统内部耦合优点：一个应用包含所有功能，容易测试和部署；运行在一个物理节点，环境单一，运行稳定，故障恢复简单；接口之间调用无网络通信，性能最佳；缺点：业务边界模糊，模块职责不清晰，当系统逐渐变大，代码依赖复杂，难以维护；所有人同时在一个工程上开发，容易发生代码修改冲突，依赖复杂导致项目协调困难，并且局部修改影响不可知，需要全覆盖测试，需要重新部署，难以支持大团队并行开发；当系统很大时，编译和部署耗时。应用水平扩展难，不同模块对资源需求差异大，当业务量增大时，一视同仁地为所有模块增加机器导致硬件浪费。2. 面向服务架构：先竖切系统，再横切，系统间纵向依赖优点：每个service聚焦某方面核心业务，同时以复用的方式供整个系统共享；服务作为独立的应用，独立部署，接口清晰，很容易做自动化测试和部署；服务是无状态的，很容易做水平扩展；通过容器虚拟化技术，实现故障隔离和资源高效利用，业务量大的时候，加机器即可；基于SOA的系统可以根据服务运行情况，灵活调控服务资源，包括服务上下架、服务升降级等，使系统真正具备可运营的能力；缺点：系统依赖复杂，给开发/测试/部署带来一系列挑战。端到端的调用链路长，可靠性降低，依赖网络状况、服务框架及具体service的质量。分布式数据一致性和分布式事务支持困难，一般通过最终一致性简化解决。端到端的测试和排障复杂，对运维提出更高要求。通过上面的介绍可以看出两种应用架构的优缺点很明显，分别应对系统发展的不同阶段，在初期阶段业务简单采用单体架构比较合适，但也要考虑到未来业务复杂度提高，大团队并行开发效率等因素，我们的架构应能够平滑过渡。基于这些思考，我们采用单体架构，但有一定的变形，初步落地架构如下：买家系统、卖家系统、运营系统分别为三个独立单体应用，分别测试、部署；service层以jar包方式提供给卖家系统和运营系统使用；后续演进为面向服务框架时，将数据库按业务拆分，将service以服务化方式提供出去即可；确定好应用架构后，针对当前架构的性能的优化，主要关注了数据的动静分离，基于以下几个原则分别做了优化：让用户的请求尽量不要经过java系统前后端进行分离，静态资源不访问webserver让静态数据放在离用户最近的地方静态资源使用cdn缓存动态数据中变化不频繁的数据访问cache让动态数据尽可能的小nginx开启gzip压缩部署的架构如下图所示：三、最终效果 经过上述各点的优化后，采用基调网络监控，页面加载时间由5s降至3s以内，请求耗时主要集中在内容下载时间，花费在建立链路的时间较少，基本达到移动用户使用的标准。后续仍需在链路优化和后端优化上做持续投入。团队建设篇 文章最后简单分享一下在团队建设方面的心得：一、各尽其职 团队开发人员分工时高内聚、低耦合，一个人分配有关联的N个独立业务模块，一方面便于深入理解业务，另一方面能够聚焦业务领域。二、业务了解 让开发同学参与产品、运营的部分调研，一方面深入了解业务，另一方面增加和产品运营同学的沟通机会，减少团队协作中因缺乏沟通、理解偏差产生的不稳定因素。三、建立技术规范 初创项目前期迭代频繁，频繁的迭代会使发生故障的概率增大，所以控制每次迭代的风险很重要。为此我们结合之前项目规范经验持续推动技术规范的落地：新人须知开发规范API定义规范java编码规范SQL书写规范数据库设计规范项目管理规范技术方案设计模板性能测试规范提测规范上线checklist、步骤模板这些技术规范的建设大大降低了初创团队的工程风险。同时新加入到同学，能够快速的了解开发习惯，统一开发风格，提高代码维护性。总结篇本文从初创项目前期发展需要出发，通过业务、效率、安全、性能四个方面进行了分享。结合业务特点和不同发展阶段的需要，做出合理的技术设计，设计过程中权衡收益与成本，用有限的时间做最重要的事情。 预览时标签不可点 关闭更多小程序广告搜索「undefined」网络结果