Nginx集群之WCF大文件上传及下载

目录

1       大约思路… 1

2       Nginx集群之WCF大文件上传及下载… 1

3       BasicHttpBinding相关配置深入解析… 2

4       编写WCF服务、顾客端程序… 3

5       URL保留项… 8

6       铺排WCF服务程序到局域网内1台PC机… 8

7       Nginx集群配置搭建… 9

8       WCF客商端程序的周转结果… 11

9       总结… 13

 

1       大致思路

l  Nginx集群之WCF大文件上传及下载

l  BasicHttpBinding相关配置深入分析

transferMode、messageEncoding、maxReceivedMessageSize、receiveTimeout、sendTimeout

l  编写WCF服务、客商端程序

l  URL保留项

l  布署WCF服务程序到局域网内1台PC机

l  Nginx集群配置搭建

l  WCF客商端程序的运作结果

l  总结

2       Nginx集群之WCF大文件上传及下载

Nginx的相称准绳,超轻巧扶持大家分开WCF服务的网段,进而达成公司数据音讯连串多区域划分,如小数目标微服务、传输数据文件的服务、即时通讯服务、只怕邮件服务,约等于营造了一条集团中间消息化的数额总线(DataBus)。

以下是本文陈述的显要组织图:

客商端以BasicHttpBinding访谈Nginx的域名zhyongfeng.com/fileupload,然后Nginx实行负荷均衡,将音讯分发到后端放肆风流罗曼蒂克台WCF上传下载服务器的PC机,然后开展上传文件至“冷数据”处,又从“冷数据”处下载文件。

针对“冷数据”能够划分目录,创立独立的FTP服务器及WCF服务器,进行操作处理。如下图所示:

图片 1

以下是WCF上传下载服务器的架构:

 图片 2

3       BasicHttpBinding相关配置剖判

basicHttpBinding相关配置,具体仿照效法:

https://msdn.microsoft.com/zh-cn/library/system.servicemodel.basichttpbinding.aspx

以下是重点使用到的安顿

transferMode

获取或设置一个值,该值指示是通过缓冲处理还是流处理来发送消息。(继承自 HttpBindingBase。)

messageEncoding

获取或设置是使用 MTOM 还是文本对 SOAP 消息进行编码。

maxReceivedMessageSize

获取或设置最大大小,以字节为单位,可以使用此绑定配置的通道上接收的消息。(继承自 HttpBindingBase。)

receiveTimeout

获取或设置连接在撤消之前保持非活动状态的最大时间间隔,在此时间间隔内未接收任何应用程序消息。(继承自 Binding。)

sendTimeout

获取或设置在传输引发异常之前可用于完成写入操作的时间间隔。(继承自 Binding。)

 

针对MTOM编码和异步调用的属性订正,能够参见杂谈:

选拔MTOM编码和异步调用改过流传输的质量.pdf

 

4       编写WCF服务、顾客端程序

l  WCF服务程序

Program.cs

using System.ServiceModel;
using Service;
using System;

namespace FileTransferHosting
{
    class Program
    {
        static void Main(string[] args)
        {
            using (ServiceHost host = new ServiceHost(typeof(FileTransferOperation)))
            {
                host.Opened += delegate
                {
                    Console.WriteLine(host.Description.Endpoints[0].Address.Uri + "已经启动,按任意键终止服务!");
                };

                host.Open();
                Console.Read();
            }
        }
    }
}

FileTransferOperation.cs

using Service.Interface;
using System;
using System.IO;
using System.ServiceModel;

namespace Service
{
    [ServiceBehavior(ConcurrencyMode = ConcurrencyMode.Multiple)]
    public class FileTransferOperation : IFileTransferOperation
    {
        /// <summary>
        /// 上传文件
        /// </summary>
        /// <param name="remoteFile"></param>
        public void UploadLoad(RemoteFileInfo remoteFile)
        {
            StreamToFile(remoteFile);
        }

        /// <summary>
        /// 写文件
        /// </summary>
        /// <param name="remoteFile"></param>
        public void StreamToFile(RemoteFileInfo remoteFile)
        {
            string fileFullPath = Path.Combine(System.Environment.CurrentDirectory, remoteFile.FileName);
            Stream sourceStream = remoteFile.FileByteStream;
            if (sourceStream == null) { return; }
            if (!sourceStream.CanRead) { return; }
            //创建文件流,读取流中的数据生成文件
            using (FileStream fs = new FileStream(fileFullPath, FileMode.Create, FileAccess.Write, FileShare.None))
            {
                const int bufferLength = 4096;
                byte[] myBuffer = new byte[bufferLength];//数据缓冲区
                int count;
                while ((count = sourceStream.Read(myBuffer, 0, bufferLength)) > 0)
                {
                    fs.Write(myBuffer, 0, count);
                }
                fs.Close();
                sourceStream.Close();
            }
        }

        /// <summary>
        /// 下载文件
        /// </summary>
        /// <param name="fileName"></param>
        /// <returns></returns>
        public Stream DownLoad(string fileName)
        {
            string fileFullPath = Path.Combine(System.Environment.CurrentDirectory, fileName);
            if (!File.Exists(fileFullPath))//判断文件是否存在
            {
                return null;
            }
            try
            {
                Stream myStream = File.OpenRead(fileFullPath);
                return myStream;
            }
            catch { return null; }
        }
    }
}

服务端配置文件:

<?xml version="1.0" encoding="utf-8" ?>
<configuration>
  <system.serviceModel>
    <behaviors>
      <serviceBehaviors>
        <behavior name="FileTransferBehavior">
          <serviceMetadata httpGetEnabled="true" />
          <serviceDebug includeExceptionDetailInFaults="true" />
        </behavior>
      </serviceBehaviors>
    </behaviors>
    <bindings>
      <basicHttpBinding>
        <binding name="FileTransferdBinding" receiveTimeout="00:30:00" sendTimeout="00:30:00" maxReceivedMessageSize="6442450944" transferMode="Streamed"
            messageEncoding="Mtom" />
      </basicHttpBinding>
    </bindings>
    <services>
      <service behaviorConfiguration="FileTransferBehavior" name="Service.FileTransferOperation">
        <endpoint binding="basicHttpBinding" bindingConfiguration="FileTransferdBinding"
            contract="Service.Interface.IFileTransferOperation" />
        <host>
          <baseAddresses>
            <add baseAddress="http://127.0.0.1:5600/fileupload" />
          </baseAddresses>
        </host>
      </service>
    </services>
  </system.serviceModel>
</configuration>

l  客商端程序

Program.cs

using System;
using System.Collections.Generic;
using System.IO;
using System.Linq;
using System.Text;
using FileTransferClient.FileTransferService;

namespace FileTransferClient
{
    class Program
    {
        static void Main(string[] args)
        {
            Console.WriteLine("请输入文件完整路径:");
            string fullFilePath = Console.ReadLine().Trim();


            using (FileTransferOperationClient proxy=new FileTransferOperationClient())
            {
                DateTime datetime1 = DateTime.Now;
                byte[] buffer = System.IO.File.ReadAllBytes(fullFilePath);
                Stream streamBuffer= new MemoryStream(buffer);
                //上传文件
                proxy.UploadLoad(buffer.Length, System.IO.Path.GetFileName(fullFilePath), streamBuffer);
                OutPutDiffTime(DateTime.Now, datetime1, "上传成功");


                Console.WriteLine("开始下载文件:");
                DateTime datetime2 = DateTime.Now;
                string filename = System.IO.Path.GetFileName(fullFilePath);
                //下载文件
                Stream sourceStream = proxy.DownLoad(filename);
                if (sourceStream == null) { return; }
                if (!sourceStream.CanRead) { return; }
                //创建文件流,读取流中的数据生成文件
                using (FileStream fs = new FileStream(Path.Combine(System.Environment.CurrentDirectory, filename), FileMode.Create, FileAccess.Write, FileShare.None))
                {
                    const int bufferLength = 4096;
                    //数据缓冲区
                    byte[] myBuffer = new byte[bufferLength];
                    int count;
                    while ((count = sourceStream.Read(myBuffer, 0, bufferLength)) > 0)
                    {
                        fs.Write(myBuffer, 0, count);
                    }
                    fs.Close();
                    sourceStream.Close();
                }
                OutPutDiffTime(DateTime.Now, datetime2, "下载成功");
                Console.Read();
            }
        }
        public static void OutPutDiffTime(DateTime datetime2,DateTime datetime1,string mesg)
        {
            TimeSpan ts = (datetime2 - datetime1);
            string dateDiff = ts.Hours.ToString() + "小时"
                    + ts.Minutes.ToString() + "分钟"
                    + ts.Seconds.ToString() + "秒";
            Console.WriteLine(String.Format("花费了{0},{1}", dateDiff, mesg));
        }
    }
}

客商端配置文件(注意这里顾客端transferMode=”Streamed”要采用流式数据开展管理,况兼将endpoint
address改为” http://zhyongfeng.com/fileupload”):

<?xml version="1.0" encoding="utf-8" ?>
<configuration>
  <system.serviceModel>
    <bindings>
      <basicHttpBinding>
        <binding name="BasicHttpBinding_IFileTransferOperation" receiveTimeout="00:30:00"
          sendTimeout="00:30:00" maxReceivedMessageSize="6442450944" transferMode="Streamed"
          messageEncoding="Mtom" />
      </basicHttpBinding>
    </bindings>
    <client>
      <endpoint address="http://zhyongfeng.com/fileupload" binding="basicHttpBinding"
        bindingConfiguration="BasicHttpBinding_IFileTransferOperation"
        contract="FileTransferService.IFileTransferOperation" name="BasicHttpBinding_IFileTransferOperation" />
    </client>
  </system.serviceModel>
</configuration>

正如图所示:

图片 3

图片 4

5       URL保留项

详见:http://www.cnblogs.com/yongfeng/p/7851039.html

6       安排WCF服务程序到局域网内1台PC机

远程安排WCF服务端程序到PC机

图片 5

图片 6

7       Nginx集群配置搭建

因而自己作主义域名zhyongfeng.com:80端口举行负荷均衡集群访谈,则访谈C:\Windows\System32\drivers\etc\hosts,增加下列“本机IP
自定义的域名”:

10.93.85.66    zhyongfeng.com

利用Nginx匹配原则针对WCF计划的1台PC机配置如下:

worker_processes  1;
events {
    worker_connections  1024;
}
http {
    include       mime.types;
    default_type  application/octet-stream;
    sendfile        on;
    keepalive_timeout  65;

    upstream zhyongfeng.com {
        server    10.92.202.56:5600;
        server    10.92.202.57:5700; 
        server    10.92.202.58:5800;
    }
    server {
        listen       80;
        server_name  zhyongfeng.com;
        location / {
            proxy_pass   http://zhyongfeng.com;
            proxy_connect_timeout       10s;
        } 
    location /fileupload {
            proxy_pass   http://10.92.202.56:5600/fileupload;
            proxy_connect_timeout       10s;
        } 
    }
}

运行CMD:

D:\DTLDownLoads\nginx-1.10.2>start nginx

D:\DTLDownLoads\nginx-1.10.2>nginx -s reload

访问WCF服务端:http://zhyongfeng.com/fileupload,运行结果:

图片 7

8        WCF客户端程序的运营结果

运转WCF客商端程序,直接上传Linux的ubuntu系统iso镜像,总大小为1.5G左右,上传时间局域网(服务器线路是10Gpbs)花费7分钟左右,下载时间大致是3分钟。

客商端服务器的网络情状,运维效果如下图:

图片 8

图片 9

图片 10

图片 11

 图片 12

 

9       总结

Nginx的相称原则能够有效的分配USportageL,将流式数据分发给相应的劳务管理,并且在局域网内能够扶持比较大的上传下载功能。通过BasicHttpBinding的有关配置,能够决定流式数据上传大小,同时辅助流式数据的下载功能,到达WCF大文件上传及下载的作用。

本来,具体的接收场景,依然要整合数据大小而谈话的,这里只是提供一个建设方案的参照。

比方说某些甩卖摄像文件每日都是1TB,管理PB级的大数据文件,还是提议利用hadoop的HDFS实现相比好。

大器晚成边,数据大小达若干MB或几KB的小票、报表文件,这一个文件重大在多而不在大,hadoop的MapReduce显著不怎么大题小做了,可以行使“业务领域-年-月-日”的措施,构建和睦风流罗曼蒂克套数据结构存款和储蓄格局。

 

源代码下载:

http://download.csdn.net/download/ruby_matlab/10131307

 

PDF下载:

Nginx集群之WCF大文件上传及下载(扶持6G传输).pdf

相关文章

admin

网站地图xml地图