不让骑手被困 算法设计需“以人为本”

　　近日，四部门联合开展“清朗·网络平台算法典型问题治理”专项行动，明确提出整治信息茧房、热搜榜单、新就业形态劳动者权益、大数据“杀熟”等问题，督促企业深入对照《算法专项治理清单指引》自查整改。复旦大学管理学院信息管理与商业智能系教授张成洪在接受南都专访时指出，这次的清单指引体现了用户自主选择、规则透明、保证来源可靠等原则，能够有效化解当前互联网平台算法治理中的顽疾。《指导意见》也提出了“推动长效治理”的工作要求，从长效机制来看，算法治理不仅是事中和事后检查，更应当在算法设计阶段就坚持以人为本的理念。

　　以“骑手被困在算法”的问题为例，要从算法设计层面入手，将骑手的主观偏好和合理诉求纳入考虑范围，通过优化算法逻辑和工作机制，降低因强制性调度导致的拒单率，并减轻骑手在平台调度下的工作压力。这不仅有助于改善骑手的工作体验，也能提升平台整体运行的公平性和可持续性。

　　派单算法应充分考虑骑手的意愿偏好

　　南都：“清朗·网络平台算法典型问题治理”专项行动要求企业对照《算法专项治理清单指引》开展自查自纠，如何评价指引的核验内容？

　　张成洪：这次的《算法专项治理清单指引》里面的核验方法总体来说都很好，尤其是体现了用户自主选择、规则透明、保证来源可靠等原则。比如允许用户自主选择，要求应用程序给用户提供“不感兴趣”“标签管理”等功能选项；要求规则透明，明确平台公示榜单排序机制机理、公示优惠规则等，能够有效打击操纵榜单、大数据“杀熟”等行为，从而建立更加公平、公正的算法生态。

　　为了推动长效治理，平台应将以人为本的要求有机融入算法设计和开发全过程，从源头确保算法的合规性。在用户选择权方面，平台不仅要给用户选择的机会，更要让用户的偏好与意愿能被即时、清晰地识别和满足。要通过预测用户需求、精准识别用户意图，协助他们在多样化的信息环境中实现真正有效的个性化选择。在规则透明方面，当前广泛采用的深度学习模型多为“黑箱式”结构，通过海量数据训练形成复杂的内部逻辑。这就对算法的可解释性提出更高要求。未来的算法治理亟须推动可解释技术的发展，使算法行为更加透明、可理解。

　　南都：此次专项行动提到了新就业形态劳动者权益，要求严防一味压缩配送时间导致配送超时率、交通违章率、事故发生率上升等问题。应如何从算法根本上解决类似问题？

　　张成洪：平台不能只站在自身立场，而应真正从骑手角度出发，以实现双方共赢。以“骑手被困在算法”这一问题为例，过去的算法调度主要围绕平台的整体运营效率展开，强调用最短的时间、最快的路线完成餐品配送。然而，这样的策略忽略了骑手群体内在的多样性。举例来说，有些骑手更熟悉某一区域，对当地的餐馆分布、交通路线和热门菜品有深入了解，这种区域专长不仅能够提高其自身的配送效率，也有助于平台整体运营的优化。当派单算法能够充分考虑骑手的区域偏好与优势，使其在擅长的领域工作，就能在提升整体效率的同时，为骑手带来更高的工作满意度和福利，真正体现出“以人为本”的理念。

　　然而，实践中面临的挑战在于，骑手的意愿和偏好往往难以直接、清晰地表达，并随着认知、环境和情境的变化而不断波动。这就要求在算法层面构建一套有效的骑手意愿预测机制，并在调度策略中充分权衡骑手偏好与整体订单需求。虽然许多外卖平台目前已允许骑手拒单，我们正在进行的研究讨论了如何通过对骑手意愿的准确预测和合理调配，降低拒单率，最终实现骑手、消费者与平台之间的多方共赢。

　　要在算法设计阶段考量合规与科技伦理

　　南都：要从源头治理算法，还有哪些行之有效的路径？

　　张成洪：从源头上实现对算法的有效治理，需要在算法设计阶段就融入合规性和科技伦理的考量。在此过程中，算法的目的不仅在于控制潜在风险，还应确保为用户和平台带来正向价值和商业目标的实现。此次专项行动公布的《算法专项治理清单指引》中所提出的诸多要求——如为用户提供个性化推荐服务的兴趣标签管理功能、明确告知内容推送所使用的个人信息类型、确保数据来源的可靠性——都需要在算法设计之初就有所体现。通过在设计环节考虑这些合规性和透明性目标，平台可以避免在后期纠错时面临的诸多局限和被动局面。这种“从源头治理”的理念将更有助于构建出符合科技伦理、促进社会向上向善的算法体系，从而实现风险管控与价值创造的双赢局面。

　　南都：“算法设计”应如何实现？需要解决哪些难题？

　　张成洪：确保算法在开发过程中合规并不是一项容易的任务。对于可解释的模型，我们可以采取一些方法来确保样本特征、参数、目标函数等都符合合规要求，但对于深度学习等复杂模型来说可能更具挑战性。

　　此外，如何将合规性要求与业务要求融合并在模型的训练过程中加以约束也是一个重要问题。我们需要考虑如何确保模型是可解释和可监管的，同时符合科技伦理标准。这可能需要采用一系列策略。

　　综合而言，人工智能对人类的影响深远，然而它又可以说是一把“双刃剑”，我们既需善用人工智能，也要严密监管，特别是在AI算法治理方面。我国已经在政策层面积极出台了一系列相关规定和指导意见，这为今后算法治理的长期实践奠定了良好基础，也指明了前进方向。从制度建设层面看，这些政策为平台合规运营、企业自查整改以及监管部门开展常态化治理提供了明确依据和路径。通过不断完善政策框架和执行机制，在算法治理的探索与实践中持续积累经验，不断提升技术与监管的协同效能，从而确保算法治理工作更加科学、规范和可持续。

　　采写：南都记者 张雨亭 制图：杨存海（元宝AI、奇域AI）