欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

C# URL短地址压缩算法及短网址原理解析

程序员文章站 2023-12-09 19:59:09
短网址应用已经在全国各大微博上开始流行了起来。例如qq微博的url.cn,新郎的sinaurl.cn等。 我们在qq微博上发布网址的时候,微博会自动判别网址,并将其转换,...

短网址应用已经在全国各大微博上开始流行了起来。例如qq微博的url.cn,新郎的sinaurl.cn等。

我们在qq微博上发布网址的时候,微博会自动判别网址,并将其转换,例如:http://url.cn/2hytqx

为什么要这样做的,原因我想有这样几点:

微博限制字数为140字一条,那么如果我们需要发一些连接上去,但是这个连接非常的长,以至于将近要占用我们内容的一半篇幅,这肯定是不能被允许的,所以短网址应运而生了。

短网址可以在我们项目里可以很好的对开放级url进行管理。有一部分网址可以会涵盖暴力,广告等信息,这样我们可以通过用户的举报,完全管理这个连接将不出现在我们的应用中,应为同样的url通过加密算法之后,得到的地址是一样的。

我们可以对一系列的网址进行流量,点击等统计,挖掘出大多数用户的关注点,这样有利于我们对项目的后续工作更好的作出决策。

其实以上三点纯属个人观点,因为在我接下来的部分项目中会应用到,所以就了解了一下,下面先来看看短网址映射算法的理论(网上找到的资料):

将长网址md5生成32位签名串,分为4段,每段8个字节;
对这四段循环处理,取8个字节,将他看成16进制串与0x3fffffff(30位1)与操作,即超过30位的忽略处理;
这30位分成6段,每5位的数字作为字母表的索引取得特定字符,依次进行获得6位字符串;
总的md5串可以获得4个6位串;取里面的任意一个就可作为这个长url的短url地址;
很简单的理论,我们并不一定说得到的url是唯一的,但是我们能够取出4组url,这样几乎不会出现太大的重复。

下面来看看程序部分:

复制代码 代码如下:

public   static   string [] shorturl( string  url)
{
    //可以自定义生成md5加密字符传前的混合key
    string  key =  ”leejor” ;
    //要使用生成url的字符
    string [] chars =  new   string []{
        ”a” , ”b” , ”c” , ”d” , ”e” , ”f” , ”g” , ”h” ,
        ”i” , ”j” , ”k” , ”l” , ”m” , ”n” , ”o” , ”p” ,
        ”q” , ”r” , ”s” , ”t” , ”u” , ”v” , ”w” , ”x” ,
        ”y” , ”z” , ”0″ , ”1″ , ”2″ , ”3″ , ”4″ , ”5″ ,
        ”6″ , ”7″ , ”8″ , ”9″ , ”a” , ”b” , ”c” , ”d” ,
        ”e” , ”f” , ”g” , ”h” , ”i” , ”j” , ”k” , ”l” ,
        ”m” , ”n” , ”o” , ”p” , ”q” , ”r” , ”s” , ”t” ,
        ”u” , ”v” , ”w” , ”x” , ”y” , ”z”
    };
    //对传入网址进行md5加密
    string  hex = system.web.security.formsauthentication.hashpasswordforstoringinconfigfile(key + url,  ”md5″ );
    string [] resurl =  new   string [4];
    for  ( int  i = 0; i < 4; i++)
    {
        //把加密字符按照8位一组16进制与0x3fffffff进行位与运算
        int  hexint = 0x3fffffff & convert.toint32( ”0x”  + hex.substring(i * 8, 8), 16);
        string  outchars =  string .empty;
        for  ( int  j = 0; j < 6; j++)
        {
            //把得到的值与0x0000003d进行位与运算,取得字符数组chars索引
            int  index = 0x0000003d & hexint;
            //把取得的字符相加
            outchars += chars[index];
            //每次循环按位右移5位
            hexint = hexint >> 5;
        }
        //把字符串存入对应索引的输出数组
        resurl[i] = outchars;
    }
    return  resurl;
}

现在可以直接使用该方法,可以等到下面四组值:

复制代码 代码如下:

shorturl(//www.jb51.net)[0];  //得到值favfui
shorturl(//www.jb51.net)[1];  //得到值3ayqry
shorturl(//www.jb51.net)[2];  //得到值uzzyur
shorturl(//www.jb51.net)[3];  //得到值36rqzn

 
在存放这个url的数据方面,我个人推荐ttserver,有的朋友可以没有听说过,下面是这个数据库的介绍:

tokyo cabinet 是日本人 mikio hirabayashi(平林幹雄)のページ 开发的一款dbm数据库(注:大名鼎鼎的dbm数据库qdbm就是他开发的),该数据库读写非常快。insert:0.4sec/1000000 recordes(2500000qps),写入100万数据只需要0.4秒。search:0.33sec/1000000 recordes (3000000 qps),读取100万数据只需要0.33秒。

可以看到对于字典类型的数据key/value的查询,这个数据库可以说是我目前见过效率非常高的,况且他如此的小巧,用来对short url/long url的配对再好不过。

该系统使用6个短码字符来表示任何长度的网址。 有效的字符代码是ascii ‘a'到'z'和'0′的'5′,其中每个字符包含2 ^ 5(32)状态。  6短码字符可用于绘制32 ^ 6(1073741824)的网址

首先,你需要一个数据库表来存储和检索你映射的网址。

复制代码 代码如下:

create table mappedurl (的create table mappedurl(
shortcode char (6) not  null ,
lognurl  text not null ,
primary key  shortcodeind (shortcode),
);

其次,你需要定义一个算法将长的url映射到短的url。 算法上面已经介绍过了。

第三,你需要创建一个网页,从数据库的短网址的映射找到原始的url,并重定向之。

———————————————————

md5 已经被破解了,因此不排除攻击者伪造相同 md5 的 url 实现恶意目的的可能性。如果不考虑这种情况,md5 collision 的可能性应该是及其低的,估计你我有生之年都看不到。

另外偶不明白“相同的url每次算出来的键值必须都是一样的”的实际用途会是什么。就算相同的 url 对应不同的键值,一般也不会造成太大的浪费吧?只有 6 位的字母数字组合都可以容纳几十亿种变化。

我正是有md5 collision的担心才问这个问题的。相同的url要对应相同的键值是因为每一个url地址都需要唯一的对应到数据库中的一条表数据,但直接用url来查询会比较慢,因为:

将要存储的url和相关的记录数据量非常大。
而且有些url会很长,所以要用text字段。
而如果哈希出唯一的键值用varchar来存储,再根据这个键值去查询就会非常方便快捷。

就像git里面的object hash, 目前基本上不用考虑冲突吧。

bit.ly等url shorter服务是怎么实现的?
需不需要从hash键值反向查找url? 如果有这样的要求, url肯定需要存一个地方, 这样就可以在冲突的时候进行再散列
md5是128位hash码(4个整数,每个整数4个字节)。因此,一个url的md5码,有2的128次方(即2e128)个可能。随意找出来的两个url的md5码相等的可能性,是2e128分之一,即r=2e-128

假如url经md5后插入数据库,第一个url插入的不会发生重复,第二个md5插入时,它跟第一条重复的概率是r。第三条url插入时,重复概率 是2×r,以此类推,第n条插入时发生重复的概率是(n-1)×r。n个md5码,其中有两个重复的概率是这些概率加和。(1+2+3+…+(n- 1))×r = (1/2)×n×(n-1)×r

对于n个md5码的集合,存在重复的概率是(1/2)*(n/2e64)e2

因此,只有n大到可以与2e64比拟,才需要考虑它的冲突问题。而2的64次方还是很大的。

所以,只要不是恶意攻击,一般应用是不太会有collision的