<html xmlns:v="urn:schemas-microsoft-com:vml" xmlns:o="urn:schemas-microsoft-com:office:office" xmlns:w="urn:schemas-microsoft-com:office:word" xmlns:m="http://schemas.microsoft.com/office/2004/12/omml" xmlns="http://www.w3.org/TR/REC-html40">
<head>
<meta http-equiv="Content-Type" content="text/html; charset=us-ascii">
<meta name="Generator" content="Microsoft Word 15 (filtered medium)">
<style><!--
/* Font Definitions */
@font-face
{font-family:"Cambria Math";
panose-1:2 4 5 3 5 4 6 3 2 4;}
@font-face
{font-family:Calibri;
panose-1:2 15 5 2 2 2 4 3 2 4;}
/* Style Definitions */
p.MsoPlainText, li.MsoPlainText, div.MsoPlainText
{mso-style-priority:99;
mso-style-link:"Plain Text Char";
margin:0in;
font-size:11.0pt;
font-family:"Calibri",sans-serif;}
span.PlainTextChar
{mso-style-name:"Plain Text Char";
mso-style-priority:99;
mso-style-link:"Plain Text";
font-family:"Calibri",sans-serif;}
.MsoChpDefault
{mso-style-type:export-only;
font-family:"Calibri",sans-serif;}
@page WordSection1
{size:8.5in 11.0in;
margin:1.0in 1.0in 1.0in 1.0in;}
div.WordSection1
{page:WordSection1;}
/* List Definitions */
@list l0
{mso-list-id:268439474;
mso-list-type:hybrid;
mso-list-template-ids:-1640569022 -1 -1 -1 -1 -1 -1 -1 -1 -1;}
@list l0:level1
{mso-level-tab-stop:none;
mso-level-number-position:left;
text-indent:-.25in;}
@list l0:level2
{mso-level-number-format:alpha-lower;
mso-level-tab-stop:none;
mso-level-number-position:left;
text-indent:-.25in;}
@list l0:level3
{mso-level-number-format:roman-lower;
mso-level-tab-stop:none;
mso-level-number-position:right;
text-indent:-9.0pt;}
@list l0:level4
{mso-level-tab-stop:none;
mso-level-number-position:left;
text-indent:-.25in;}
@list l0:level5
{mso-level-number-format:alpha-lower;
mso-level-tab-stop:none;
mso-level-number-position:left;
text-indent:-.25in;}
@list l0:level6
{mso-level-number-format:roman-lower;
mso-level-tab-stop:none;
mso-level-number-position:right;
text-indent:-9.0pt;}
@list l0:level7
{mso-level-tab-stop:none;
mso-level-number-position:left;
text-indent:-.25in;}
@list l0:level8
{mso-level-number-format:alpha-lower;
mso-level-tab-stop:none;
mso-level-number-position:left;
text-indent:-.25in;}
@list l0:level9
{mso-level-number-format:roman-lower;
mso-level-tab-stop:none;
mso-level-number-position:right;
text-indent:-9.0pt;}
@list l1
{mso-list-id:430009019;
mso-list-type:hybrid;
mso-list-template-ids:-1640569022 67698703 67698713 67698715 67698703 67698713 67698715 67698703 67698713 67698715;}
@list l1:level1
{mso-level-tab-stop:none;
mso-level-number-position:left;
text-indent:-.25in;}
@list l1:level2
{mso-level-number-format:alpha-lower;
mso-level-tab-stop:none;
mso-level-number-position:left;
text-indent:-.25in;}
@list l1:level3
{mso-level-number-format:roman-lower;
mso-level-tab-stop:none;
mso-level-number-position:right;
text-indent:-9.0pt;}
@list l1:level4
{mso-level-tab-stop:none;
mso-level-number-position:left;
text-indent:-.25in;}
@list l1:level5
{mso-level-number-format:alpha-lower;
mso-level-tab-stop:none;
mso-level-number-position:left;
text-indent:-.25in;}
@list l1:level6
{mso-level-number-format:roman-lower;
mso-level-tab-stop:none;
mso-level-number-position:right;
text-indent:-9.0pt;}
@list l1:level7
{mso-level-tab-stop:none;
mso-level-number-position:left;
text-indent:-.25in;}
@list l1:level8
{mso-level-number-format:alpha-lower;
mso-level-tab-stop:none;
mso-level-number-position:left;
text-indent:-.25in;}
@list l1:level9
{mso-level-number-format:roman-lower;
mso-level-tab-stop:none;
mso-level-number-position:right;
text-indent:-9.0pt;}
ol
{margin-bottom:0in;}
ul
{margin-bottom:0in;}
--></style><!--[if gte mso 9]><xml>
<o:shapedefaults v:ext="edit" spidmax="1026" />
</xml><![endif]--><!--[if gte mso 9]><xml>
<o:shapelayout v:ext="edit">
<o:idmap v:ext="edit" data="1" />
</o:shapelayout></xml><![endif]-->
</head>
<body lang="EN-US" link="#0563C1" vlink="#954F72" style="word-wrap:break-word">
<div class="WordSection1">
<ol style="margin-top:0in" start="1" type="1">
<li class="MsoPlainText" style="mso-list:l1 level1 lfo1">You got an error here "Address already in use".<o:p></o:p></li></ol>
<p class="MsoPlainText" style="text-indent:.5in">You need to remove the remaining socket file and restart Pgpool-II again.<o:p></o:p></p>
<p class="MsoPlainText" style="text-indent:.5in"><b><span style="background:yellow;mso-highlight:yellow">How can this be done?</span><o:p></o:p></b></p>
<p class="MsoPlainText"><o:p> </o:p></p>
<ol style="margin-top:0in" start="2" type="1">
<li class="MsoPlainText" style="mso-list:l1 level1 lfo1"><b><span style="background:yellow;mso-highlight:yellow">Version of pgpool and Postgresql</span><o:p></o:p></b></li></ol>
<p class="MsoPlainText" style="margin-left:1.0in">root@sr-vm-abh-2:~# pgpool -v<o:p></o:p></p>
<p class="MsoPlainText" style="margin-left:1.0in">pgpool-II version 4.3.3 (tamahomeboshi)<o:p></o:p></p>
<p class="MsoPlainText" style="margin-left:1.0in"><o:p> </o:p></p>
<p class="MsoPlainText" style="margin-left:1.0in">PostgreSQL --> Version 12<o:p></o:p></p>
<p class="MsoPlainText"><o:p> </o:p></p>
<ol style="margin-top:0in" start="3" type="1">
<li class="MsoPlainText" style="mso-list:l1 level1 lfo1"><b><span style="background:yellow;mso-highlight:yellow">Connection to PostgreSQL from PGPOOL server:</span><o:p></o:p></b></li></ol>
<p class="MsoPlainText" style="margin-left:1.0in"><i>root@sr-vm-abh-2:~# psql -h <b>
192.168.0.31</b> -p 5432 -U pgpool postgres<o:p></o:p></i></p>
<p class="MsoPlainText" style="margin-left:1.0in"><i>psql (12.14 (Ubuntu 12.14-1.pgdg22.04+1))<o:p></o:p></i></p>
<p class="MsoPlainText" style="margin-left:1.0in"><i>Type "help" for help.<o:p></o:p></i></p>
<p class="MsoPlainText" style="margin-left:1.0in"><i><o:p> </o:p></i></p>
<p class="MsoPlainText" style="margin-left:1.0in"><i>postgres=><o:p></o:p></i></p>
<p class="MsoPlainText"><i> </i><o:p></o:p></p>
<p class="MsoPlainText"><i> root@sr-vm-abh-2:~# psql -h
<b>192.168.0.38</b> -p 5432 -U pgpool postgres<o:p></o:p></i></p>
<p class="MsoPlainText" style="margin-left:1.0in"><i>psql (12.14 (Ubuntu 12.14-1.pgdg22.04+1))<o:p></o:p></i></p>
<p class="MsoPlainText" style="margin-left:1.0in"><i>Type "help" for help.<o:p></o:p></i></p>
<p class="MsoPlainText" style="margin-left:1.0in"><i><o:p> </o:p></i></p>
<p class="MsoPlainText" style="margin-left:1.0in"><i>postgres=><o:p></o:p></i></p>
<p class="MsoPlainText" style="margin-left:1.0in"><i><o:p> </o:p></i></p>
<ol style="margin-top:0in" start="4" type="1">
<li class="MsoPlainText" style="mso-list:l1 level1 lfo1">When SSL is enabled using
<span style="background:lime;mso-highlight:lime">trust</span><o:p></o:p></li></ol>
<p class="MsoPlainText" style="margin-left:1.0in">Database is SSL enabled as per below(<b><span style="background:lime;mso-highlight:lime">hostssl all all 0.0.0.0/0 trust</span></b>) :<o:p></o:p></p>
<p class="MsoPlainText" style="margin-left:1.0in">postgres@sr-vm-abh-4:~$ psql -h localhost<o:p></o:p></p>
<p class="MsoPlainText" style="margin-left:1.0in">psql (12.14 (Ubuntu 12.14-1.pgdg22.04+1))<o:p></o:p></p>
<p class="MsoPlainText" style="margin-left:1.0in"><b><span style="background:yellow;mso-highlight:yellow">SSL connection (protocol: TLSv1.3, cipher: TLS_AES_256_GCM_SHA384, bits: 256, compression: off)</span><o:p></o:p></b></p>
<p class="MsoPlainText" style="margin-left:1.0in">Type "help" for help.<o:p></o:p></p>
<p class="MsoPlainText" style="margin-left:1.0in">postgres=#<o:p></o:p></p>
<p class="MsoPlainText"><o:p> </o:p></p>
<p class="MsoPlainText"> PGPOOL is SSL enabled as per below(<b><span style="background:lime;mso-highlight:lime">hostssl all all 0.0.0.0/0 trust</span></b>) and Status checked as per below from
one of the nodes:<o:p></o:p></p>
<p class="MsoPlainText"><b> <span style="background:yellow;mso-highlight:yellow">
root@sr-vm-abh-2:/var/log/pgpool_log# psql -h localhost -p 9999 -U pgpool postgres -c "show pool_nodes"</span><o:p></o:p></b></p>
<p class="MsoPlainText">node_id | hostname | port | status | pg_status | lb_weight | role | pg_role | select_cnt | load_balance_node | replication_delay | replication_state | replication_sync_state | last_status_change<o:p></o:p></p>
<p class="MsoPlainText">---------+--------------+------+--------+-----------+-----------+---------+---------+------------+-------------------+-------------------+-------------------+------------------------+---------------------<o:p></o:p></p>
<p class="MsoPlainText">0 | 192.168.0.31 | 5432 | up | up | 0.500000 | primary | primary | 0 | true | 0 | | | 2023-03-06 15:01:57<o:p></o:p></p>
<p class="MsoPlainText">1 | 192.168.0.38 | 5432 | up | up | 0.500000 | standby | standby | 0 | false | 0 | streaming | async | 2023-03-06 15:01:57<o:p></o:p></p>
<p class="MsoPlainText">(2 rows)<o:p></o:p></p>
<p class="MsoPlainText"><o:p> </o:p></p>
<p class="MsoPlainText"><o:p> </o:p></p>
<ol style="margin-top:0in" start="5" type="1">
<li class="MsoPlainText" style="mso-list:l1 level1 lfo1">When SSL is enabled using
<b><span style="background:aqua;mso-highlight:aqua">md5</span></b><o:p></o:p></li></ol>
<p class="MsoPlainText" style="margin-left:1.0in">Database is SSL enabled as per below(<b>hostssl all all 0.0.0.0/0
<span style="background:aqua;mso-highlight:aqua">md5 clientcert=1</span></b>) :<o:p></o:p></p>
<p class="MsoPlainText" style="margin-left:1.0in">postgres@sr-vm-abh-4:~$ psql -h localhost<o:p></o:p></p>
<p class="MsoPlainText" style="margin-left:1.0in">psql (12.14 (Ubuntu 12.14-1.pgdg22.04+1))<o:p></o:p></p>
<p class="MsoPlainText" style="margin-left:1.0in">Type "help" for help.<o:p></o:p></p>
<p class="MsoPlainText" style="margin-left:1.0in"><o:p> </o:p></p>
<p class="MsoPlainText" style="margin-left:1.0in">postgres=#<o:p></o:p></p>
<p class="MsoPlainText" style="margin-left:1.0in"><o:p> </o:p></p>
<p class="MsoPlainText"> PGPOOL is SSL enabled as per below(<b><span style="background:lime;mso-highlight:lime">hostssl all all 0.0.0.0/0 trust</span></b>) and Status checked as per below from
one of the nodes:<o:p></o:p></p>
<p class="MsoPlainText"><b> <o:p></o:p></b></p>
<p class="MsoPlainText"><b> <span style="color:red">Error Logs of PGPOOL:</span><o:p></o:p></b></p>
<p class="MsoPlainText"><b> 2023-03-07 09:53:02.253: heart_beat_receiver pid 81219: LOG: set SO_REUSEPORT option to the socket<o:p></o:p></b></p>
<p class="MsoPlainText" style="margin-left:1.0in"><b>2023-03-07 09:53:02.253: heart_beat_receiver pid 81219: LOG: creating watchdog heartbeat receive socket.<o:p></o:p></b></p>
<p class="MsoPlainText" style="margin-left:1.0in"><b>2023-03-07 09:53:02.253: heart_beat_receiver pid 81219: DETAIL: set SO_REUSEPORT<o:p></o:p></b></p>
<p class="MsoPlainText" style="margin-left:1.0in"><b>2023-03-07 09:53:02.296: main pid 81188: LOG: find_primary_node: make_persistent_db_connection_noerror failed on node 0<o:p></o:p></b></p>
<p class="MsoPlainText" style="margin-left:1.0in"><b>2023-03-07 09:53:02.305: main pid 81188: LOG: find_primary_node: make_persistent_db_connection_noerror failed on node 1<o:p></o:p></b></p>
<p class="MsoPlainText"><b><o:p> </o:p></b></p>
<p class="MsoPlainText"><o:p> </o:p></p>
<p class="MsoPlainText"><o:p> </o:p></p>
<p class="MsoPlainText"><o:p> </o:p></p>
<p class="MsoPlainText">-----Original Message-----<br>
From: Bo Peng <pengbo@sraoss.co.jp> <br>
Sent: Monday, March 6, 2023 12:49 PM<br>
To: Abhishek 1. Garg (Nokia) <abhishek.1.garg@nokia.com><br>
Cc: pgpool-general@pgpool.net; Srikant Sharma (Nokia) <srikant.sharma@nokia.com><br>
Subject: Re: FW: [pgpool-general: 8603] PGPOOL SSL setup Issues</p>
<p class="MsoPlainText"><o:p> </o:p></p>
<p class="MsoPlainText"><o:p> </o:p></p>
<p class="MsoPlainText">CAUTION: This is an external email. Please be very careful when clicking links or opening attachments. See
<a href="http://nok.it/ext"><span style="color:windowtext;text-decoration:none">http://nok.it/ext</span></a> for additional information.<o:p></o:p></p>
<p class="MsoPlainText"><o:p> </o:p></p>
<p class="MsoPlainText"><o:p> </o:p></p>
<p class="MsoPlainText"><o:p> </o:p></p>
<p class="MsoPlainText">Hello,<o:p></o:p></p>
<p class="MsoPlainText"><o:p> </o:p></p>
<p class="MsoPlainText">On Mon, 6 Mar 2023 05:14:52 +0000<o:p></o:p></p>
<p class="MsoPlainText">"Abhishek 1. Garg (Nokia)" <<a href="mailto:abhishek.1.garg@nokia.com"><span style="color:windowtext;text-decoration:none">abhishek.1.garg@nokia.com</span></a>> wrote:<o:p></o:p></p>
<p class="MsoPlainText"><o:p> </o:p></p>
<p class="MsoPlainText">> Steps taken:<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> 1. SSL switched off on both Postgresql servers<o:p></o:p></p>
<p class="MsoPlainText">> 2. SSL switched off on both PGPOOL servers<o:p></o:p></p>
<p class="MsoPlainText">> 3. pg_hba.conf contains --> host all all 0.0.0.0/0 trust<o:p></o:p></p>
<p class="MsoPlainText">> 4. pool_hba.conf contains --> host all all 0.0.0.0/0 trust<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> Output received from one of the PGPOOL servers(10.182.200.242):<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> root@sr-vm-abh-2:/var/log/pgpool_log# psql -h localhost -p 9999 -U pgpool postgres -c "show pool_nodes"<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> node_id | hostname | port | status | pg_status | lb_weight | role | pg_role | select_cnt | load_balance_node | replication_delay | replication_state | replication_sync_state | last_status_change<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> ---------+--------------+------+--------+-----------+-----------+---------+---------+------------+-------------------+-------------------+-------------------+------------------------+---------------------<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> 0 | 192.168.0.31 | 5432 | up | up | 0.500000 | primary | primary | 0 | false | 0 | | | 2023-03-06 09:55:58<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> 1 | 192.168.0.38 | 5432 | up | up | 0.500000 | standby | standby | 0 | true | 0 | streaming | async | 2023-03-06 09:55:58<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> (2 rows)<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> In other PGPOOL server I got error :<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> 2023-03-06 10:03:13.616: watchdog pid 278560: LOG: new IPC connection received<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> 2023-03-06 10:03:13.616: watchdog pid 278560: LOG: received the get data request from local pgpool-II on IPC interface<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> 2023-03-06 10:03:13.616: watchdog pid 278560: LOG: get data request from local pgpool-II node received on IPC interface is forwarded to leader watchdog node "10.182.200.242:9999 Linux sr-vm-abh-2"<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> 2023-03-06 10:03:13.616: watchdog pid 278560: DETAIL: waiting for the reply...<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> 2023-03-06 10:03:13.617: main pid 278556: LOG: leader watchdog node "10.182.200.242:9999 Linux sr-vm-abh-2" returned status for 2 backend nodes<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> 2023-03-06 10:03:13.617: watchdog pid 278560: LOG: new IPC connection received<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> 2023-03-06 10:03:13.617: main pid 278556: LOG: backend:0 is set to UP status<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> 2023-03-06 10:03:13.617: main pid 278556: DETAIL: backend:0 is UP on cluster leader "10.182.200.242:9999 Linux sr-vm-abh-2"<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> 2023-03-06 10:03:13.617: main pid 278556: LOG: backend:1 is set to UP status<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> 2023-03-06 10:03:13.617: main pid 278556: DETAIL: backend:1 is UP on cluster leader "10.182.200.242:9999 Linux sr-vm-abh-2"<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> 2023-03-06 10:03:13.617: main pid 278556: LOG: Pgpool-II parent process received SIGUSR1<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> 2023-03-06 10:03:13.617: main pid 278556: LOG: Setting up socket for 0.0.0.0:9999<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> 2023-03-06 10:03:13.618: main pid 278556: FATAL: failed to create INET domain socket<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> 2023-03-06 10:03:13.618: main pid 278556: DETAIL: bind on socket failed with error "Address already in use"<o:p></o:p></p>
<p class="MsoPlainText"><o:p> </o:p></p>
<p class="MsoPlainText">You got an error here "Address already in use".<o:p></o:p></p>
<p class="MsoPlainText">You need to remove the remaining socket file and restart Pgpool-II again.<o:p></o:p></p>
<p class="MsoPlainText"><o:p> </o:p></p>
<p class="MsoPlainText">Which version of pgpool and PostgreSQL are you using?<o:p></o:p></p>
<p class="MsoPlainText"><o:p> </o:p></p>
<p class="MsoPlainText">As you mentioned in your last email, you had a SSL connection issue.<o:p></o:p></p>
<p class="MsoPlainText">Could you show the error messages of PostgreSQL when you have SSL connection issue?<o:p></o:p></p>
<p class="MsoPlainText">And could you try if you could connect to PostgreSQL using psql from the server where pgpool is running?<o:p></o:p></p>
<p class="MsoPlainText"><o:p> </o:p></p>
<p class="MsoPlainText">Regards,<o:p></o:p></p>
<p class="MsoPlainText"><o:p> </o:p></p>
<p class="MsoPlainText"><o:p> </o:p></p>
<p class="MsoPlainText">> -----Original Message-----<o:p></o:p></p>
<p class="MsoPlainText">> From: Bo Peng <<a href="mailto:pengbo@sraoss.co.jp"><span style="color:windowtext;text-decoration:none">pengbo@sraoss.co.jp</span></a>><o:p></o:p></p>
<p class="MsoPlainText">> Sent: Wednesday, March 1, 2023 10:46 AM<o:p></o:p></p>
<p class="MsoPlainText">> To: Abhishek 1. Garg (Nokia) <<a href="mailto:abhishek.1.garg@nokia.com"><span style="color:windowtext;text-decoration:none">abhishek.1.garg@nokia.com</span></a>><o:p></o:p></p>
<p class="MsoPlainText">> Cc: <a href="mailto:pgpool-general@pgpool.net"><span style="color:windowtext;text-decoration:none">pgpool-general@pgpool.net</span></a>; Srikant Sharma (Nokia) <<a href="mailto:srikant.sharma@nokia.com"><span style="color:windowtext;text-decoration:none">srikant.sharma@nokia.com</span></a>><o:p></o:p></p>
<p class="MsoPlainText">> Subject: Re: FW: [pgpool-general: 8603] PGPOOL SSL setup Issues<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> CAUTION: This is an external email. Please be very careful when clicking links or opening attachments. See
<a href="http://nok.it/ext"><span style="color:windowtext;text-decoration:none">http://nok.it/ext</span></a> for additional information.<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> Hello,<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> It works, if you set:<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> hostssl all all 0.0.0.0/0 trust<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> It fails, if you set:<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> host all all 0.0.0.0/0 trust<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> Is it correct?<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> In your log, it seems only node1 fails.<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> If the setting of ssl connection is the cause, pgpool should have failed to connect both node0 and node1.<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> Can you check the log of PostgreSQL node1 if any error occurs?<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> When ssl is enabed, can you use psql to connect to PostgreSQL using "pgpool" user on the server where pgpool is runnung?<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> [pgpool server]$ psql -h 192.168.0.38 -p 5432 -U pgpool postgres<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> If you turn off ssl, can pgpool connect to both PostgreSQL nodes, and both node0 and node1 are running?<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> Could you run "show pool_nodes" command?<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> On Wed, 1 Mar 2023 04:38:22 +0000<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> "Abhishek 1. Garg (Nokia)" <<a href="mailto:abhishek.1.garg@nokia.com%3cmailto:abhishek.1.garg@nokia.com"><span style="color:windowtext;text-decoration:none">abhishek.1.garg@nokia.com<mailto:abhishek.1.garg@nokia.com</span></a>>> wrote:<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > Yes,<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > It works if ssl turned off in pg_hba.conf and pool_hba.conf<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > -----Original Message-----<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > From: Bo Peng <<a href="mailto:pengbo@sraoss.co.jp%3cmailto:pengbo@sraoss.co.jp"><span style="color:windowtext;text-decoration:none">pengbo@sraoss.co.jp<mailto:pengbo@sraoss.co.jp</span></a>>><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > Sent: Wednesday, March 1, 2023 10:05 AM<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > To: Abhishek 1. Garg (Nokia) <<a href="mailto:abhishek.1.garg@nokia.com%3cmailto:abhishek.1.garg@nokia.com"><span style="color:windowtext;text-decoration:none">abhishek.1.garg@nokia.com<mailto:abhishek.1.garg@nokia.com</span></a>>><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > Cc: <a href="mailto:pgpool-general@pgpool.net%3cmailto:pgpool-general@pgpool.net">
<span style="color:windowtext;text-decoration:none">pgpool-general@pgpool.net<mailto:pgpool-general@pgpool.net</span></a>>; Srikant Sharma (Nokia)<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > <<a href="mailto:srikant.sharma@nokia.com%3cmailto:srikant.sharma@nokia.com"><span style="color:windowtext;text-decoration:none">srikant.sharma@nokia.com<mailto:srikant.sharma@nokia.com</span></a>>><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > Subject: Re: FW: [pgpool-general: 8603] PGPOOL SSL setup Issues<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > CAUTION: This is an external email. Please be very careful when clicking links or opening attachments. See
<a href="http://nok.it/ext"><span style="color:windowtext;text-decoration:none">http://nok.it/ext</span></a> for additional information.<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > hello,<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > As mentioned in earlier email, with ssl turned off, all the connectivity works fine.<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > P.S. - This setup works fine when pool_hba.conf is updated with below entries, result shown below<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > hostssl all all 0.0.0.0/0 trust<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > Have you disable ssl on both side of PostgreSQL <-> Pgpool-II and Pgpool-II <-> client.<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > You need to turn of ssl in pg_hba.conf and pool_hba.conf.<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > On Wed, 1 Mar 2023 04:24:27 +0000<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > "Abhishek 1. Garg (Nokia)" <<a href="mailto:abhishek.1.garg@nokia.com%3cmailto:abhishek.1.garg@nokia.com"><span style="color:windowtext;text-decoration:none">abhishek.1.garg@nokia.com<mailto:abhishek.1.garg@nokia.com</span></a>>>
wrote:<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > Hello,<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > As mentioned in earlier email, with ssl turned off, all the connectivity works fine.<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > -----Original Message-----<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > From: Bo Peng <<a href="mailto:pengbo@sraoss.co.jp%3cmailto:pengbo@sraoss.co.jp"><span style="color:windowtext;text-decoration:none">pengbo@sraoss.co.jp<mailto:pengbo@sraoss.co.jp</span></a>>><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > Sent: Wednesday, March 1, 2023 7:14 AM<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > To: Abhishek 1. Garg (Nokia) <<a href="mailto:abhishek.1.garg@nokia.com%3cmailto:abhishek.1.garg@nokia.com"><span style="color:windowtext;text-decoration:none">abhishek.1.garg@nokia.com<mailto:abhishek.1.garg@nokia.com</span></a>>><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > Cc: <a href="mailto:pgpool-general@pgpool.net%3cmailto:pgpool-general@pgpool.net">
<span style="color:windowtext;text-decoration:none">pgpool-general@pgpool.net<mailto:pgpool-general@pgpool.net</span></a>>; Srikant Sharma (Nokia)<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > <<a href="mailto:srikant.sharma@nokia.com%3cmailto:srikant.sharma@nokia.com"><span style="color:windowtext;text-decoration:none">srikant.sharma@nokia.com<mailto:srikant.sharma@nokia.com</span></a>>><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > Subject: Re: FW: [pgpool-general: 8603] PGPOOL SSL setup Issues<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > CAUTION: This is an external email. Please be very careful when clicking links or opening attachments. See
<a href="http://nok.it/ext"><span style="color:windowtext;text-decoration:none">http://nok.it/ext</span></a> for additional information.<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > Hello,<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > To figure out the cause if it is a SSL connection issue or network issue, could you check if the same error occurs if you turn off ssl connection in PostgreSQL.<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > Error:<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > 2023-02-15 13:51:38.201: main pid 46946: LOG: find_primary_node:<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > make_persistent_db_connection_noerror failed on node 1<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > Normally pgpool connects to all the backend nodes to find the primary node.<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > But in your log, it failes only when connecting to node1.<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > Any configuration difference between node0 and node1?<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > On Wed, 22 Feb 2023 08:06:12 +0000<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > "Abhishek 1. Garg (Nokia)" <<a href="mailto:abhishek.1.garg@nokia.com%3cmailto:abhishek.1.garg@nokia.com"><span style="color:windowtext;text-decoration:none">abhishek.1.garg@nokia.com<mailto:abhishek.1.garg@nokia.com</span></a>>>
wrote:<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > Unable to share certificates, so sending just .conf files.<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > -----Original Message-----<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > From: Abhishek 1. Garg (Nokia)<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > Sent: Wednesday, February 22, 2023 1:34 PM<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > To: Bo Peng <<a href="mailto:pengbo@sraoss.co.jp%3cmailto:pengbo@sraoss.co.jp"><span style="color:windowtext;text-decoration:none">pengbo@sraoss.co.jp<mailto:pengbo@sraoss.co.jp</span></a>>><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > Cc: <a href="mailto:pgpool-general@pgpool.net%3cmailto:pgpool-general@pgpool.net">
<span style="color:windowtext;text-decoration:none">pgpool-general@pgpool.net<mailto:pgpool-general@pgpool.net</span></a>>; Srikant Sharma (Nokia)<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > <<a href="mailto:srikant.sharma@nokia.com%3cmailto:srikant.sharma@nokia.com"><span style="color:windowtext;text-decoration:none">srikant.sharma@nokia.com<mailto:srikant.sharma@nokia.com</span></a>>><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > Subject: RE: [pgpool-general: 8603] PGPOOL SSL setup Issues<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > Hello,<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > Please refer attached files. Our Postgres DB is ssl enabled so attaching certificates as well.<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > And we want to achieve PGPOOL with SSL connectivity to Postgres with SSL, using same certificates as attached.<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > Regards<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > -----Original Message-----<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > From: Bo Peng <<a href="mailto:pengbo@sraoss.co.jp%3cmailto:pengbo@sraoss.co.jp"><span style="color:windowtext;text-decoration:none">pengbo@sraoss.co.jp<mailto:pengbo@sraoss.co.jp</span></a>>><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > Sent: Wednesday, February 22, 2023 7:47 AM<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > To: Abhishek 1. Garg (Nokia) <<a href="mailto:abhishek.1.garg@nokia.com%3cmailto:abhishek.1.garg@nokia.com"><span style="color:windowtext;text-decoration:none">abhishek.1.garg@nokia.com<mailto:abhishek.1.garg@nokia.com</span></a>>><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > Cc: <a href="mailto:pgpool-general@pgpool.net%3cmailto:pgpool-general@pgpool.net">
<span style="color:windowtext;text-decoration:none">pgpool-general@pgpool.net<mailto:pgpool-general@pgpool.net</span></a>>; Srikant Sharma (Nokia)<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > <<a href="mailto:srikant.sharma@nokia.com%3cmailto:srikant.sharma@nokia.com"><span style="color:windowtext;text-decoration:none">srikant.sharma@nokia.com<mailto:srikant.sharma@nokia.com</span></a>>><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > Subject: Re: [pgpool-general: 8603] PGPOOL SSL setup Issues<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > [You don't often get email from <a href="mailto:pengbo@sraoss.co.jp%3cmailto:pengbo@sraoss.co.jp">
<span style="color:windowtext;text-decoration:none">pengbo@sraoss.co.jp<mailto:pengbo@sraoss.co.jp</span></a>>. Learn why<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > this is important at <a href="https://aka.ms/LearnAboutSenderIdentification">
<span style="color:windowtext;text-decoration:none">https://aka.ms/LearnAboutSenderIdentification</span></a><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ]<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > CAUTION: This is an external email. Please be very careful when clicking links or opening attachments. See
<a href="http://nok.it/ext"><span style="color:windowtext;text-decoration:none">http://nok.it/ext</span></a> for additional information.<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > Hello,<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > Thank you for sharing the configurations.<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > > 2023-02-15 13:51:38.201: main pid 46946: LOG: find_primary_node:<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > > make_persistent_db_connection_noerror failed on node 1<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > I think the pool_hba.conf doesn't cause the error above because it is the error between pgpool and postgresql.<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > Cloud you share your postgresql.conf and pg_hba.conf?<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > On Mon, 20 Feb 2023 04:19:53 +0000 "Abhishek 1. Garg (Nokia)"<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > <<a href="mailto:abhishek.1.garg@nokia.com%3cmailto:abhishek.1.garg@nokia.com"><span style="color:windowtext;text-decoration:none">abhishek.1.garg@nokia.com<mailto:abhishek.1.garg@nokia.com</span></a>>> wrote:<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > Below are the details<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > root@sr-vm-abh-1:/etc/pgpool2# cat pool_passwd<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > pgpool:TEXTpgpool<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > postgres:TEXTpostgres<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > root@sr-vm-abh-1:/etc/pgpool2# pwd<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > /etc/pgpool2<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > root@sr-vm-abh-1:/etc/pgpool2#<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > -----Original Message-----<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > From: Bo Peng <<a href="mailto:pengbo@sraoss.co.jp%3cmailto:pengbo@sraoss.co.jp"><span style="color:windowtext;text-decoration:none">pengbo@sraoss.co.jp<mailto:pengbo@sraoss.co.jp</span></a>>><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > Sent: Friday, February 17, 2023 5:53 PM<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > To: Abhishek 1. Garg (Nokia) <<a href="mailto:abhishek.1.garg@nokia.com%3cmailto:abhishek.1.garg@nokia.com"><span style="color:windowtext;text-decoration:none">abhishek.1.garg@nokia.com<mailto:abhishek.1.garg@nokia.com</span></a>>><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > Cc: <a href="mailto:pgpool-general@pgpool.net%3cmailto:pgpool-general@pgpool.net">
<span style="color:windowtext;text-decoration:none">pgpool-general@pgpool.net<mailto:pgpool-general@pgpool.net</span></a>>; Srikant Sharma (Nokia)<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > <<a href="mailto:srikant.sharma@nokia.com%3cmailto:srikant.sharma@nokia.com"><span style="color:windowtext;text-decoration:none">srikant.sharma@nokia.com<mailto:srikant.sharma@nokia.com</span></a>>><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > Subject: Re: [pgpool-general: 8603] PGPOOL SSL setup Issues<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > [You don't often get email from<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > <a href="mailto:pengbo@sraoss.co.jp%3cmailto:pengbo@sraoss.co.jp%3cmailto:pengbo@sraoss.co.jp%3cmailto:pengbo@sraoss.co.jp">
<span style="color:windowtext;text-decoration:none">pengbo@sraoss.co.jp<mailto:pengbo@sraoss.co.jp<mailto:pengbo@sraoss.co.jp%3cmailto:pengbo@sraoss.co.jp</span></a>>>. Learn why this<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > is important at <a href="https://aka.ms/LearnAboutSenderIdentification">
<span style="color:windowtext;text-decoration:none">https://aka.ms/LearnAboutSenderIdentification</span></a> ]<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > Hi,<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > > Error:<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > > 2023-02-15 13:51:38.201: main pid 46946: LOG: find_primary_node:<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > > make_persistent_db_connection_noerror failed on node 1<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > Pgpool-II uses the user specified in "sr_check_user" to fine the primary node.<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > Because sr_check_password is empty, Pgpool-II will read the password from pool_passwd file.<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > Please check if you have set the password correctly in pool_passwd file?<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > -------------------------<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > sr_check_user = 'pgpool'<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > sr_check_password = ''<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > -------------------------<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > On Wed, 15 Feb 2023 09:12:52 +0000<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > "Abhishek 1. Garg (Nokia)" <<a href="mailto:abhishek.1.garg@nokia.com%3cmailto:abhishek.1.garg@nokia.com%3cmailto:abhishek.1.garg@nokia.com%3cmailto:abhishek.1.garg@nokia.com"><span style="color:windowtext;text-decoration:none">abhishek.1.garg@nokia.com<mailto:abhishek.1.garg@nokia.com<mailto:abhishek.1.garg@nokia.com%3cmailto:abhishek.1.garg@nokia.com</span></a>>>>
wrote:<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > > Hi Team,<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > > We are facing challenges in our Sandbox environment where we are trying to configure 2 PGPOOL nodes with 2 PostgreSQL servers(with Standby Replication).<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > > Refer attached conf file and logs.<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > > Error:<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > > 2023-02-15 13:51:38.201: main pid 46946: LOG: find_primary_node:<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > > make_persistent_db_connection_noerror failed on node 1<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > > Can you please suggest?<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > > P.S. - This setup works fine when pool_hba.conf is updated with below entries, result shown below<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > > hostssl all all 0.0.0.0/0 trust<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > > [<a href="cid:image001.png@01D9414B.C5876E00"><span style="color:windowtext;text-decoration:none">cid:image001.png@01D9414B.C5876E00</span></a>]<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > > Regards<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > > Abhishek Garg<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > --<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > Bo Peng <<a href="mailto:pengbo@sraoss.co.jp%3cmailto:pengbo@sraoss.co.jp%3cmailto:pengbo@sraoss.co.jp%3cmailto:pengbo@sraoss.co.jp"><span style="color:windowtext;text-decoration:none">pengbo@sraoss.co.jp<mailto:pengbo@sraoss.co.jp<mailto:pengbo@sraoss.co.jp%3cmailto:pengbo@sraoss.co.jp</span></a>>>><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > SRA OSS LLC<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > > <a href="https://www.sraoss.co.jp/"><span style="color:windowtext;text-decoration:none">https://www.sraoss.co.jp/</span></a><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > --<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > Bo Peng <<a href="mailto:pengbo@sraoss.co.jp%3cmailto:pengbo@sraoss.co.jp"><span style="color:windowtext;text-decoration:none">pengbo@sraoss.co.jp<mailto:pengbo@sraoss.co.jp</span></a>>><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > SRA OSS LLC<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > > <a href="https://www.sraoss.co.jp/"><span style="color:windowtext;text-decoration:none">https://www.sraoss.co.jp/</span></a><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > --<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > Bo Peng <<a href="mailto:pengbo@sraoss.co.jp%3cmailto:pengbo@sraoss.co.jp"><span style="color:windowtext;text-decoration:none">pengbo@sraoss.co.jp<mailto:pengbo@sraoss.co.jp</span></a>>><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > SRA OSS LLC<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > > <a href="https://www.sraoss.co.jp/"><span style="color:windowtext;text-decoration:none">https://www.sraoss.co.jp/</span></a><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> ><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > --<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > Bo Peng <<a href="mailto:pengbo@sraoss.co.jp%3cmailto:pengbo@sraoss.co.jp"><span style="color:windowtext;text-decoration:none">pengbo@sraoss.co.jp<mailto:pengbo@sraoss.co.jp</span></a>>><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > SRA OSS LLC<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> > <a href="https://www.sraoss.co.jp/"><span style="color:windowtext;text-decoration:none">https://www.sraoss.co.jp/</span></a><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> --<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> Bo Peng <<a href="mailto:pengbo@sraoss.co.jp%3cmailto:pengbo@sraoss.co.jp"><span style="color:windowtext;text-decoration:none">pengbo@sraoss.co.jp<mailto:pengbo@sraoss.co.jp</span></a>>><o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> SRA OSS LLC<o:p></o:p></p>
<p class="MsoPlainText">><o:p> </o:p></p>
<p class="MsoPlainText">> <a href="https://www.sraoss.co.jp/"><span style="color:windowtext;text-decoration:none">https://www.sraoss.co.jp/</span></a><o:p></o:p></p>
<p class="MsoPlainText"><o:p> </o:p></p>
<p class="MsoPlainText"><o:p> </o:p></p>
<p class="MsoPlainText">--<o:p></o:p></p>
<p class="MsoPlainText">Bo Peng <<a href="mailto:pengbo@sraoss.co.jp"><span style="color:windowtext;text-decoration:none">pengbo@sraoss.co.jp</span></a>><o:p></o:p></p>
<p class="MsoPlainText">SRA OSS LLC<o:p></o:p></p>
<p class="MsoPlainText"><a href="https://www.sraoss.co.jp/"><span style="color:windowtext;text-decoration:none">https://www.sraoss.co.jp/</span></a><o:p></o:p></p>
</div>
</body>
</html>