快速响应请求浅谈
排着前不见头后不见尾的队，内心是崩溃的，又进退两难，是一种等待。
叫号，玩手机等，是一种等待。
一句我等你，然后遥遥无期，是一种等待。
此为信物，待我长发及腰...，是一种等待。
关于响应
发起请求，接收到反馈即算响应。响应的内容是想要的结果，或仅是一句安慰，在合适的场景下合适的呈现都能有好的体验，响应顾及这种反馈体验，出发点就对了。
快速响应方式
不同的应用场景，决定快速响应的方式。
（1）发起型，只关心提交的数据是否到达。
发起型只关心提交是否成功，不关心后续处理过程，此时，应在接收数据成功后立即反馈成功，处理过程交给其它异步线程或进程处理。
（2）实时结果型，等着出结果。
提交请求数据后，如果处理时间较短（如3秒以内），则可处理完成之后反馈结果。否则，可先反馈数据接收成功，提示处理中，然后异步标记处理状态供前端查询或是通知前端进度，此时前端已经收到反馈，然后以一种非阻塞的方式呈现处理进度。
前端也可以是收到反馈之后，直接引导用户进入下一步，进入下一步后，如果已经处理完了则皆大欢喜，未处理完，仍然可以通过状态信息，给用户反馈当前处理情况。
（3）信息查询型
信息查询，通常可以先加载页面，再异步加载查询结果。而数据部分，可以通过使用缓存减少数据库查询，当缓存中存在相关信息时，直接使用缓存中的数据返回。缓存需要适当的刷新策略，简单方式，如无缓存则查询数据库，有则检测是否超过刷新时间决定是否刷新。通常可以使用成熟的缓存框架。
快速响应方法
基本原则：尽早反馈
基本方法：先返回，异步处理，再通知
（1）线程化
接收到请求数据后，处理过程以线程方式进行，请求直接返回。如下 c# 代码，假设处理过程耗时 3 秒，则使用以下方式，耗时接近 0 秒。
stopwatch sw = new stopwatch();
sw.start(); -- 计时开始
var thread = new thread(new threadstart(() => {
// 处理过程
thread.sleep(3000);
}));
thread.start();
-- 显示耗时
return sw.elapsedmilliseconds.tostring();
这种方式的主要问题在于，当处理时长偏长而请求数较多时，线程数据会急剧增加可能耗尽所有资源，而使得应用不可用。
（2）线程池
使用线程池能降低反复创建销毁线程的损耗，并对资源的使用加以控制！在 c# 中，我们可以通过以下线程池的方法达到线程化的效果。
threadpool.queueuserworkitem((state) => {
// 处理过程
thread.sleep(3000);
debug.write("处理完毕！");
});
（3）队列化
任务请求不均衡，高峰期特别集中，而应用处理能力有限，此时可以建立一种排队机制，来的任务加入队列，不紧不慢的去执行，可以充分发挥机器性能又不至于超过其处理能力。任务的执行主体简要形式如以下 c# 示例。
/// <summary>
/// 任务执行线程主体
/// </summary>
private void taskrunning()
{
while (_working)
{
queuetask<t> task = null;
lock (_runlocker)
{
if (_taskrunqueue.count > 0)
{
task = _taskrunqueue.dequeue();
}
}
// 还存在任务执行其任务过程
if (task != null)
{
task.callback(task.objectkey, task.context);
}
else
{
// 等待新任务通知
_waithandle.waitone();
}
}
}
（4）中间件
使用中间件，能有效进行应用间的解藕，并使得应用极具扩展性与伸缩性，相关数据丢给中间件，中间件负责分发任务给相关工作进程，并管理好其状态。如 rabbitmq，通过它可以在不同应用进程中进行通信与任务管理。
任务处理方式
（1）发布订阅方式
确定一个主题，需要该主题相关的数据的应用订阅该主题即可，当数据方发布该主题时，订阅方会收到相应的消息然后触发业务处理。当同一数据（消息）多方应用依据其进行处理时，发布订阅方式非常合适。
（2）生产者消费者方式
当很多耗时任务到达时，可以开启多个工作进程来并行处理这些任务。发起任务方是生产者，工作进程就是消费者，生产一个，空闲工作进程马上接手一个（即消费一个）。仍然处理不过来了，可以继续增加工作进程。
容错处理
容错处理主要针对任务执行失败的情形，如何确保任务一定有结果的执行。其一，需要确保在任务派发后，其工作进程执行失败时，能自动重新委派给其它工作进程。其二，当分配者自身中断后能恢复任务队列。实现这些，需要有相应的处理机制，如任务执行结果 ack 通知、持久化消息等。而这些，都有较为成熟的解决方案，如 rabbitmq 等。