OpenStack4j 多线程编程session问题(一)

背景

项目中使用了 OpenStack4j github链接 来调用 OpenStack 接口,最近负责实现一个“自动化构建上百个虚拟节点”功能,觉得单线程模式下一个个创虚拟机太慢了,考虑使用多线程的方式创建虚拟机,创建过程中遇到了如下异常:

# org.openstack4j.api.exceptions.OS4JException: 
# Unable to retrieve current session. 
# Please verify thread has a current session available.

从字面上,是说我当前的线程没有对应的会话(session),那么这个会话到底是怎么回事呢?如何用多线程实现对 OpenStack 的并发请求呢?下面就来说一说

错误还原

使用 OpenStack4j 创建虚拟机的代码很简单,分两步走,第一步,建立一个 client,第二步,用 client 获取 compute 服务并创建虚拟机,代码示范如下:

第一步,建立一个 client

OSClientV3 os = OSFactory.builderV3()
                .endpoint("http://<fqdn>:5000/v3")
                .credentials("admin", "secret", Identifier.byId("user domain id"))
                .scopeToProject(Identifier.byId("project id"))
                .authenticate());

第二步,获取 compute服务并创建虚拟机,这里的server就是创建的虚拟机:

ServerCreate serverCreate = Builders.server()
                .name(name)
                .addSecurityGroup(securityGroup)
                .flavor(flavorId)
                .image(imageId)
                .networks(networks)
                .keypairName(keypairName)
                .build();
Server server = os.compute().servers().boot(serverCreate);

那么用多线程创建虚拟机的代码结构就大致如下,当然,只是简单的示范代码:

OSClientV3 os = OSFactory.builderV3()
                .endpoint("http://<fqdn>:5000/v3")
                .credentials("admin", "secret", Identifier.byId("user domain id"))
                .scopeToProject(Identifier.byId("project id"))
                .authenticate());

//用线程池管理线程
ExecutorService executorService = Executors.newFixedThreadPool(THREAD_COUNT);

for(int i = 0; i < n; i++) {
    executorService.submit(new createMission(os));
}

executorService.shutdown();
//创建一个任务类,继承线程
class CreateMission extends Thread {

    OSClientV3 os;
     
    public CreateMission(OSClientV3 os) {
        this.os = os;   
    }

    @Override
    public void run() {
        //创建serverCreate对象,这里省略代码
        Server server = os.compute().servers().boot(serverCreate);
    }
}

如果这么写的话,就报错啦,遇到上文所述的 session 异常:

# org.openstack4j.api.exceptions.OS4JException: 
# Unable to retrieve current session. 
# Please verify thread has a current session available.

为了解决这个错误,我们就得知道 session 是什么,为什么在多线程下会出错

Session

下面结合 OpenStack4j 源码来分析一下这个 session

说简单也简单,从 client 的创建说起:

OSClientV3 os = OSFactory.builderV3()
                .endpoint("http://<fqdn>:5000/v3")
                .credentials("admin", "secret", Identifier.byId("user domain id"))
                .scopeToProject(Identifier.byId("project id"))
                .authenticate());

如上所示,client 是用 OSFactorybuilderV3 实现的,返回了一个ClientV3 对象:

package org.openstack4j.openstack;
public abstract class OSFactory<T extends OSFactory<T>> {
    ……
    public static V3 builderV3() {
        return new ClientV3();
    }
}

在创建 client 的一系列调用中, clientV3 对象最后调用了一个方法 authenticate()

package org.openstack4j.openstack.client;
public abstract class OSClientBuilder {
    ……
    public static class ClientV3 extends OSClientBuilder {
        ……
        public OSClientV3 authenticate() throws AuthenticationException {
            if (this.tokenId != null && this.tokenId.length() > 0) {
                return this.scope != null ? (OSClientV3)OSAuthenticator.invoke(new KeystoneAuth(this.tokenId, this.scope), this.endpoint, this.perspective, this.config, this.provider) : (OSClientV3)OSAuthenticator.invoke(new KeystoneAuth(this.tokenId), this.endpoint, this.perspective, this.config, this.provider);
            } else {
                return this.user != null && this.user.length() > 0 ? (OSClientV3)OSAuthenticator.invoke(new KeystoneAuth(this.user, this.password, this.domain, this.scope), this.endpoint, this.perspective, this.config, this.provider) : (OSClientV3)OSAuthenticator.invoke(new KeystoneAuth(this.scope, Type.TOKENLESS), this.endpoint, this.perspective, this.config, this.provider);
            }
        }
    }
}

要注意 return 语句里调用了 OSAuthenticator.invoke 方法,这里面的实现如下:

package org.openstack4j.openstack.internal;
public class OSAuthenticator {
    ……
    public static OSClient invoke(KeystoneAuth auth, String endpoint, Facing perspective, Config config,
            CloudProvider provider) {
        SessionInfo info = new SessionInfo(endpoint, perspective, false, provider);
        return authenticateV3(auth, info, config);
    }
    
    private static OSClientV3 authenticateV3(KeystoneAuth auth, SessionInfo info, Config config) {
        ……
        if (!info.reLinkToExistingSession) {
            OSClientSessionV3 v3 = OSClientSessionV3.createSession(token, info.perspective, info.provider, config);
            v3.reqId = reqId;
            return v3;
        }

        OSClientSessionV3 current = (OSClientSessionV3) OSClientSessionV3.getCurrent();
        current.token = token;
       
        current.reqId = reqId;
        return current;
    }
}

注意看最后,这个方法返回了一个 OSClientSessionV3 的对象!所以说我们用的 client,其实就可以视为一个 session

以上介绍了那么多看似繁琐的调用,就是为了让我们形成这样一个理解:

OpenStack4j 里,创建的 client 可以被理解成创建了一次会话(session),以后的调用,都是基于此次会话的

最后看一下session类:

/**
 * A client which has been identified. Any calls spawned from this session will
 * automatically utilize the original authentication that was successfully
 * validated and authorized
 *
 * @author Jeremy Unruh
 */
public abstract class OSClientSession {
    private static final ThreadLocal<OSClientSession> sessions = new ThreadLocal<OSClientSession>();
    
    ……
    public static class OSClientSessionV3 extends OSClientSession<OSClientSessionV3, OSClientV3> {
        ……
    }
}

注意看一开始定义的 ThreadLocal<OSClientSession> sessions

谜底揭晓了,OSClientSessionThreadLocal<OSClientSession> 为每个线程维护了一个 session(也就是client)

每次使用client调用某服务的时候,最后会调用到这里:

package org.openstack4j.openstack.internal;
public class BaseOpenStackService {
    ……
    @SuppressWarnings("rawtypes")
    private <R> Invocation<R> builder(Class<R> returnType, String path, HttpMethod method) {
        OSClientSession ses = OSClientSession.getCurrent();
        if (ses == null) {
            throw new OS4JException(
                    "Unable to retrieve current session. Please verify thread has a current session available.");
        }
        RequestBuilder<R> req = HttpRequest.builder(returnType).endpointTokenProvider(ses).config(ses.getConfig())
                .method(method).path(path);
        Map headers = ses.getHeaders();
        if (headers != null && headers.size() > 0){
            return new Invocation<R>(req, serviceType, endpointFunc).headers(headers);
        }else{ 
            return new Invocation<R>(req, serviceType, endpointFunc);
        }
    }
}

上图里,着重看这段代码:

OSClientSession ses = OSClientSession.getCurrent();
if (ses == null) {
    throw new OS4JException(
            "Unable to retrieve current session. Please verify thread has a current session available.");
}

回顾一下之前多线程创建虚拟机的代码,我们在主线程里创建了 client (也可理解为会话),在另外的线程里试图用这个会话调用 OpenStack 的服务,但这个会话是用 ThreadLocal 维护的,只属于主线程,另外的线程当然取不到这个会话,于是就报错啦

于是要使用多线程并发调用 OpenStack 的话,需要在每个线程里都创建一个会话,再进行调用,代码框架大概如下:

//用线程池管理线程
ExecutorService executorService = Executors.newFixedThreadPool(THREAD_COUNT);

for(int i = 0; i < n; i++) {
    executorService.submit(new createMission());
}

executorService.shutdown();
//创建一个任务类,继承线程
class CreateMission extends Thread {
     
    @Override
    public void run() {
        OSClientV3 os = OSFactory.builderV3()
                .endpoint("http://<fqdn>:5000/v3")
                .credentials("admin", "secret", Identifier.byId("user domain id"))
                .scopeToProject(Identifier.byId("project id"))
                .authenticate());
        //创建serverCreate对象,这里省略代码
        Server server = os.compute().servers().boot(serverCreate);
    }
}

但是!让我们假设一个场景,如果我要创建500个虚拟机,我用一个线程池,维护了若干个线程。每次,一个线程执行一次创建虚拟机的任务,就要创建一次会话,那么创建500个虚拟机,就需要创建500个会话!

这样对OpenStack服务器的压力是不是太大了?如果要创建1000个,1万个虚拟机呢?

既然我们用了线程池,复用了线程,我们是不是应该想办法把会话也复用一下?

这时候,就想到了利用 ThreadLocal,至于怎么用,下一篇再说了。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 158,847评论 4 362
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 67,208评论 1 292
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 108,587评论 0 243
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 43,942评论 0 205
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,332评论 3 287
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,587评论 1 218
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 31,853评论 2 312
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,568评论 0 198
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,273评论 1 242
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,542评论 2 246
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,033评论 1 260
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,373评论 2 253
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,031评论 3 236
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,073评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,830评论 0 195
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 35,628评论 2 274
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,537评论 2 269

推荐阅读更多精彩内容

  •   一个任务通常就是一个程序,每个运行中的程序就是一个进程。当一个程序运行时,内部可能包含了多个顺序执行流,每个顺...
    OmaiMoon阅读 1,629评论 0 12
  • 在一个方法内部定义的变量都存储在栈中,当这个函数运行结束后,其对应的栈就会被回收,此时,在其方法体中定义的变量将不...
    Y了个J阅读 4,390评论 1 14
  • 整理自:Java面试题全集(上)https://blog.csdn.net/jackfrued/article/d...
    在水之天阅读 3,059评论 1 24
  • ORA-00001: 违反唯一约束条件 (.) 错误说明:当在唯一索引所对应的列上键入重复值时,会触发此异常。 O...
    我想起个好名字阅读 4,867评论 0 9
  • 有点不好看,请勿喷~ 那时候年少稚嫩 难免有点心有余力不足嘿嘿
    那么萧阅读 569评论 0 1