客户服务器模型的优点

1简化了执行体。可以在用户态服务器中构造各种各样的API，而不会有任何冲突或重复；可以很容易地加入新的API。

2提高了可靠性。每个新的服务运行在内核之外，有自己的存储空间，这样可以免受其他服务的干扰，单个客户的失败不会使操作系统的其余部分崩溃。

3为应用程序与服务间通过RPC调用进行通信提供了一致的方法，且没有限制其灵活性。函数桩（function stub）把消息传递进程对客户应用程序隐藏起来，函数桩是为了包装RPC调用的一小段代码。当通过一个API访问一个环境子系统或服务时，位于客户端应用程序中的函数桩把调用参数包作为一个消息发送给一个服务器子系统执行。

4为分布式计算提供了适当的基础。典型地，分布式计算使用客户/服务器模块，通过分布的客户和服务器模块以及客户与服务器间的消息交换实现远程过程调用。对于Windows，本地服务器可以代表本地客户应用程序给远程服务器传递一条消息，客户不需要知道请求是在本地还是在远程得到服务的。实际上，一条请求是在本地还是远程得到服务，可以基于当前负载条件和动态配置的变化而动态变化。

你要问的是边缘服务是不是指部署模型到边缘服务器，是的。

ModelArts服务支持模型部署功能。用户可以将从OBS导入的模型或者训练作业生成的模型部署为边缘服务。

边缘服务依赖智能边缘平台，部署前需要在智能边缘平台上创建边缘节点，在边缘节点将模型部署为一个WebService。

答案：并发服务器

在互联网中，客户机发起请求完全是随机的，很有可能出现多个请求同时到达服务器的情况，因此，服务器必须具备处理多个并发请求的能力。为此，服务器可以采用重复服务器和并发服务器两种解决方案。重复服务器方案是指服务器程序中包含一个请求队列，客户机请求到达后，首先进入队列中等待，服务器按先进先出的原则作出响应，因此客户请求可能长时间得不到响应。重复服务器方案对系统资源要求不高，一般用于处理可在预期时间内处理完的请求，针对面向无连接的客户机/服务器模型。并发服务器方案是一个守护进程，在没有请求到达时，它处于等待状态。一旦客户请求到达，服务器立即为之创建一个子进程，然后回到等待状态，由子进程响应请求，当下一个请求到达时，服务器再为之创建一个新的子进程，因此请求不会长时间得不到响应。在并发服务器方案中，服务器称为主服务器，子进程称为从服务器。并发服务器方案实时性和灵活性强，对主机的软、硬件资源要求较高，一般用于处理不能在预期时间内处理完的请求，针对面向连接的客户机/服务器模型。

1、普通的阻塞和非阻塞编程。

利用线程池技术和内存池，SOCKET池技术，基本可以处理一千五百个左右的SOCKET连接，但我们一般使用的机器大约有两M内存，而在不改变线程堆栈的大小情况下，我们至多可以创建一千七八百个线程，不过也就基本动不了了。我们测试基本到一千个线程左右，机器就很慢了。

还有在WIN-XP-SP2中，对单进程中的线程的并发做了处理，默认是10个，修改的方法网上多的是。

2、SELECT模型（异步和同步）

这个模型在单线程的情况下默认是64个最大SOCKET连接。你可以修改WINSOCK2h这个文件中的FD_SETSIZE,但不得超过底层WINSOCK的限制（1024），但如果采用多线程的话，可以处理更多，其实际的最大数量，在单线程里建议不超过1000个，至于多线程，应该也要控制线程切换的效率和数据处理的时间。应该几千个没有什么问题。

3、WSAASYNCSELECT模型

这个模型利用的是消息机制，建议不超过1000个。

4、WSAEVENTSELECT模型

这个模型利用的是事件驱动方式，单个线程不超过64个（WSAWaitForMultipleEvents最多等待64个事件），如果多SOCKET并发宜采用线程池技术，应该几千个没什么问题。

5、重叠IO

应该几千个没问题。这个毕竟是下面IOCP的一个技术基础。

6、IOCP完成端口+重叠IO

这个是解决SOCKET通信的终极武器，可惜只用在WIN上和2000以上，LINUX上好象有一个类似的EPOLL，而且好象比这个还好用，没具体用过。这个东东解决几万个SOCKET并发应该是很轻松，当然你得编程水平和技术得跟上。

从网上查看说这个东西如果使用的服务器版的操作系统和机器最大可到一百W，太恐怖了吧，那家伙自己在XP上最大达到了五万，但不断出现内存溢出的BUG。他最高到了9W。

网络应用随处可见，任何时候浏览Web、发送E-mail信息或玩在线 游戏 ，都会使用网络应用程序。有趣的是，所有的网络应用都是基于相同的基本编程模型，有着相似的整体逻辑结构，并且依赖相同的编程接口。

每个网络应用都是基于 客户端-服务器 模型的。采用这个模型，一个应用是由一个服务器进程 和 一个或多个客户端进程组成。服务器管理某种资源，并且通过操作这种资源来为它的客户端提供某种服务。

如一个Web服务器管理者一组磁盘文件，它会代表客户端进行存储和检索。相似地，一个电子邮件服务器管理着一些文件，它为客户端进行读和更新。

客户端-服务器模型中的基本操作是事务（transaction），一个客户端-服务器事务由以下四步组成：

需要注意的是，客户端和服务器是进程，而不是常提到的机器或主机。一台主机可以同时运行多个不同的客户端和服务器，而且一个客户端和服务器的事务可以在同一台或不同的主机上。无论客户端和服务器是怎样映射到主机上的，客户端-服务器模型都是相同的。

环境差异，更换合适的笔记本。笔记本上跑模型在服务器上精度很低是因为服务器和笔记本的硬件配置、操作系统、软件版本等存在差异，这些差异会影响模型的性能和精度，需要更换合适的笔记本进行重新测试。

实验室没有服务器可以用Googlecolab跑深度学习模型。具体操作步骤如下：

1、创建colab文件：进入Google云盘后，创建一个colab文件。第一次使用，会存在colab选项不显示的情况，点击关联更多应用即可。点击colab选项后会跳转到一个页面，与jupyter基本一模一样，可输入代码段，能连接服务器，有文件目录、colab文件名和使用选项。

2、配置colab环境：点击修改后点击笔记本设置就可以配置gpu了，硬件加速器选择gpu，点击连接即配置好环境，将Googledrive的云空间连接起来，就有了drive文件夹，现在配置已经全部完成。

3、配置完成就可以使用Googlecolab跑深度学习模型了，gpu是k80计算速度慢，可以再新建一个colab文件，两三次就可以开到p100了。gpu用完的场景，需要1天时间恢复，可以再弄一个谷歌账号重复上述操作。