利用Cache缓存数据DataTable数据提高大数据量访问性能
2024-07-21 02:23:53
供稿:网友
引言:
在数据量不大的情况下,程序怎么写基本上性能差别不大,但是当我们面对数以万计的数据的时候,我想性能就是个不得不考虑的问题了,每写一个方法,每填充一笔数据都要考虑到性能问题,否则服务器将承担巨大的执行开销,如果服务器性能不好可能立即就死在那里了,所以在大数据量频繁访问的页面上,我们就必须考虑如何提高页面的性能了,本文将提供一种用cache提高访问性能的方法来解决此问题,在很大程度上提高页面加载数据的性能。本文列举的是论坛版块中帖子列表页面加载数据的实例。
正文:
每个版块帖子列表信息都会对应一个cache的名字,比如,我们可以按照规律设成
#region -- cachename setting --
boardcachename = "board" + boardid.tostring();
#endregion
这里我们同样是采取数据集填充datatable的方法创建数据的。不过,因为我们有了cache,所以,我们在第一次加载完数据后,会把数据压到cache中,然后每次填充datatable前进行判断,如果cache为空时才加载,如果不为空,则不加载。
private datatable builddatatable()
{
// 数据缓存 机制
if(cache[boardcachename] != null)
{
// create datatable from cache
datatable dt = (datatable)cache[boardcachename];
return dt;
}
else
{
// create datatable from database
datatable dt = new datatable();
#region -- create datatable --
dt.columns.add("topicid", system.type.gettype("system.int32"));
//省去n个类似字段的添加
dt.columns.add("coolstate", system.type.gettype("system.int32"));
datacolumn[] keys = new datacolumn[1];
keys[0] = dt.columns[0];
dt.primarykey = keys;
#endregion
#region -- add datarow --
bbstopiccollection btc = new bbstopiccollection();
btc.boardid = this.boardid;
btc.topicstate = 1;
if(!btc.getinfo())
{
return dt;
}
for(int i=0;i<btc.count;i++)
{
datarow dr = dt.newrow();
// 帖id
dr["topicid"] = btc[i].id;
//省去n个类似字段的数据赋值
// cool state
dr["coolstate"] = btc[i].coolstate;
dt.rows.add(dr);
}
#endregion
// push datatable to cache
cache[boardcachename] = dt;
return dt;
}
}
上面的代码完成了数据填充过程,但更重要的是对数据进行管理,比如,我们改变一条住处的某些状态位来实现一些功能,比如,我们把贴子加成“酷贴”,这个时候就要对cache进行操作,特别注意一下,我们在上面的代码中还特别设置topicid这一列作为表的主值键,这样我们才能很快的定位到要管理的数据信息,方法如下。
#region -- cache management --
if(cache["board" + this.boardid.tostring()] != null)
{
datatable dt = (datatable)cache["board" + this.boardid.tostring()];
datarow dr = dt.rows.find(topicid);
if(dr != null)
{
dr["coolstate"] = 1;
dr.acceptchanges();
dt.acceptchanges();
}
}
#endregion
一点说明:其中的topicid是通过某种途径传过来的你想操作的信息的唯一标识字段,acceptchanges方法更新保存相应对象数据自上一次更新以来所有的更改,另外对cache进行操作后,记得要重新绑定数据,另外也要同时更新数据库中的,本文认为读者具备对数据库数据进行操作的能力,便不作贅述。
那么我们如何来删除数据记录呢?我们是不是可以直接在找到dr的那一行下面,用个
dr.delete()来把数据删除就完事了呢?答案是否,这样操作会出现问题,经测试对cache的添加和更新操作会立即生效,但删除某条记录的动作不会立即起作用,这样就会导致数据操作异步性,这是不可以的,同时1.1版本比1.0版本要稍微好一些,但还是解决不了异步性的问题,所以我们是不是必须把cache干掉,重新填充一下呢,如果你愿意这样做,自然也无可厚非,我这里提供另外一个思路供参考。
我们的解决方案是,在创建表格的时候多加一个删除标志位,比如deletestate,当初从数据库中加载出来的时候都一律为1,然后经过删除操作以后,将这条信息的删除标志位置0(不要忘记同时操作数据库中的数据),然后绑定的时候对dataview进行过滤,dv.rowfilter = "deletestate==1",便可以模拟出删除效果了。
数据经过这样的处理之后,访问性能会数以百倍的提高,数据只在cache失效后才会重新加载,用户对数据的访问都是对cache的操作,而且cache是服务器变量,对所有用户共享,这样,如果同时有一百个用户访问,也都是对同一个cache进行一百次访问,而程序访问cache是非常快的,如果不使用cache,那么,我们就要去跑一百次数据库操作,性能极差,尤其是当海量用户对海量数据进行访问的时候,服务器可谓苦不堪言,所以用cache来缓解负荷是相当必要且相对优良的一种方案,只是辛苦了那位在cache失效后第一次访问页面的那个用户,不过这种牺牲换来别人的高性能也是值得的嘛。