<font size=2 face="sans-serif">All,</font>
<br>
<br><font size=2 face="sans-serif">I seem to be getting duplicates of each
email in this thread .. any idea what's going on with the mailing list?</font>
<br><font size=2 face="sans-serif"><br>
Michael Blocksome<br>
Blue Gene Messaging<br>
blocksom@us.ibm.com<br>
</font>
<br>
<br>
<br>
<br><font size=1 color=#5f5f5f face="sans-serif">From:      
 </font><font size=1 face="sans-serif">Jack Poulson <jack.poulson@gmail.com></font>
<br><font size=1 color=#5f5f5f face="sans-serif">To:      
 </font><font size=1 face="sans-serif">Hal Finkel <hfinkel@anl.gov>,
</font>
<br><font size=1 color=#5f5f5f face="sans-serif">Cc:      
 </font><font size=1 face="sans-serif">llvm-bgq-discuss@lists.alcf.anl.gov</font>
<br><font size=1 color=#5f5f5f face="sans-serif">Date:      
 </font><font size=1 face="sans-serif">02/28/2013 09:44 PM</font>
<br><font size=1 color=#5f5f5f face="sans-serif">Subject:    
   </font><font size=1 face="sans-serif">Re: [Llvm-bgq-discuss]
Details behind MPI wrapper for bgclang++</font>
<br><font size=1 color=#5f5f5f face="sans-serif">Sent by:    
   </font><font size=1 face="sans-serif">llvm-bgq-discuss-bounces@lists.alcf.anl.gov</font>
<br>
<hr noshade>
<br>
<br>
<br><font size=3>On Thu, Feb 28, 2013 at 7:36 PM, Hal Finkel <</font><a href=mailto:hfinkel@anl.gov target=_blank><font size=3 color=blue><u>hfinkel@anl.gov</u></font></a><font size=3>>
wrote:</font>
<br><font size=3>----- Original Message -----<br>
> From: "Jack Poulson" <</font><a href=mailto:jack.poulson@gmail.com><font size=3 color=blue><u>jack.poulson@gmail.com</u></font></a><font size=3>><br>
> To: "Hal Finkel" <</font><a href=mailto:hfinkel@anl.gov><font size=3 color=blue><u>hfinkel@anl.gov</u></font></a><font size=3>><br>
> Cc: "Jeff Hammond" <</font><a href=mailto:jhammond@alcf.anl.gov><font size=3 color=blue><u>jhammond@alcf.anl.gov</u></font></a><font size=3>>,
</font><a href="mailto:llvm-bgq-discuss@lists.alcf.anl.gov"><font size=3 color=blue><u>llvm-bgq-discuss@lists.alcf.anl.gov</u></font></a>
<br><font size=3>> Sent: Thursday, February 28, 2013 7:40:19 PM<br>
> Subject: Re: [Llvm-bgq-discuss] Details behind MPI wrapper for bgclang++<br>
><br>
> On Thu, Feb 28, 2013 at 5:24 PM, Hal Finkel < </font><a href=mailto:hfinkel@anl.gov><font size=3 color=blue><u>hfinkel@anl.gov</u></font></a><font size=3>
><br>
> wrote:<br>
><br>
><br>
><br>
><br>
> ----- Original Message -----<br>
> > From: "Jack Poulson" < </font><a href=mailto:jack.poulson@gmail.com><font size=3 color=blue><u>jack.poulson@gmail.com</u></font></a><font size=3>
><br>
> > To: "Hal Finkel" < </font><a href=mailto:hfinkel@anl.gov><font size=3 color=blue><u>hfinkel@anl.gov</u></font></a><font size=3>
><br>
> > Cc: "Jeff Hammond" < </font><a href=mailto:jhammond@alcf.anl.gov><font size=3 color=blue><u>jhammond@alcf.anl.gov</u></font></a><font size=3>
>,<br>
> > </font><a href="mailto:llvm-bgq-discuss@lists.alcf.anl.gov"><font size=3 color=blue><u>llvm-bgq-discuss@lists.alcf.anl.gov</u></font></a><font size=3><br>
><br>
> > Sent: Thursday, February 28, 2013 6:51:08 PM<br>
> > Subject: Re: [Llvm-bgq-discuss] Details behind MPI wrapper for<br>
> > bgclang++<br>
> ><br>
><br>
> > Thanks Hal, that helps clear things up a bit. I guess I should
be a<br>
> > little more clear about what exactly I'm doing. Since CMake's<br>
> > FindMPI module seems to attempt to link to MPICH incorrectly
if I<br>
> > directly specify the mpic++11, I have to instead manually specify<br>
> > its behaviour (and thankfully Jeff took care of this a month
or two<br>
> > ago). One of my link commands generated by CMake looks like this:<br>
> ><br>
> ><br>
> ><br>
> > /home/projects/llvm/bin/bgclang++ -Wall -std=c++11 -O3<br>
> > -stdlib=libc++<br>
> > -L/bgsys/drivers/ppcfloor/comm/gcc/lib<br>
> > -L/bgsys/drivers/ppcfloor/comm/sys/lib<br>
> > -L/bgsys/drivers/ppcfloor/spi/lib<br>
> > CMakeFiles/HypRadon-2d.dir/test/transform/HypRadon-2d.cpp.o -o<br>
> > bin/transform/HypRadon-2d -rdynamic libcmake-dummy-lib.a<br>
> > -L/soft/libraries/alcf/current/gcc/LAPACK/lib -llapack<br>
> > -L/soft/libraries/essl/current/essl/5.1/lib64 -lesslbg<br>
> > -L/soft/compilers/ibmcmp-nov2012/xlf/bg/14.1/bglib64 -lxlf90_r<br>
> > -L/soft/compilers/ibmcmp-nov2012/xlsmp/bg/3.1/bglib64 -lxlomp_ser<br>
> > -L/soft/compilers/ibmcmp-nov2012/xlmass/bg/7.3/bglib64 -lmassv<br>
> > -lmass -lxlopt -lxlfmath -lxl -lgfortran -lm -lpthread -ldl<br>
> > -Wl,--allow-multiple-definition -lcxxmpich -lmpich -lopa -lmpl
-ldl<br>
> > -lpami -lSPI -lSPI_cnk -lpthread -lrt -lstdc++<br>
> ><br>
> ><br>
> > Upon typing this, I noticed that both libc++ and libstdc++ are
both<br>
> > being used (which I assume is bad).<br>
><br>
> Actually, this is okay (although this is not obvious). When you<br>
> specify -stdlib=libc++ the clang driver automatically rewrites<br>
> -lstdc++ to some system-specific set of libraries necessary to link<br>
> with libc++. In our case, this is -lc++ (and -lrt -lpthread -lstdc++<br>
> when statically linking). As a result, using -lstdc++ is fine here.<br>
> You can verify this by passing -v and examining the linking command<br>
> line.<br>
><br>
> I should also note that we have a *special* libc++ install which is<br>
> partially based on libstdc++ so that we can link statically with<br>
> PAMI without symbol definition conflicts. Everything *should* work,<br>
> but I've only done some limited testing.<br>
><br>
> So using the command-line above succeeds but produces an executable<br>
> that crashes?<br>
><br>
><br>
><br>
><br>
><br>
><br>
> Hi Hal,<br>
><br>
><br>
> Thanks, that makes a lot of sense! The executable Backproj-2d in<br>
> /home/poulson/dist-butterfly/build/clang/bin/transform produced<br>
> core.{0,6,8,10,11}. Please let me know if you do not have access for<br>
> some reason, and thank you again for your help.<br>
</font>
<br><font size=3>Interesting; so the backtrace is messed up, but the problem
seems legitimate. The code is ending up in steady_clock::now(), which uses
clock_gettime(CLOCK_MONOTONIC, ...), which is not supported on the BG/Q
compute nodes. I'll need to change it to use CLOCK_REALTIME instead; I'll
let you know when to retry.<br>
<br>
Thanks again,<br>
Hal<br>
</font>
<br>
<br><font size=3>Thanks Hal! I was thrown off by the fact that the trace
contained MPI_Gather and the program had failed before it should have reached
any MPI_Gather calls.  I very much appreciate the help.</font>
<br>
<br><font size=3>Jack</font><tt><font size=2>_______________________________________________<br>
llvm-bgq-discuss mailing list<br>
llvm-bgq-discuss@lists.alcf.anl.gov<br>
</font></tt><a href="https://lists.alcf.anl.gov/mailman/listinfo/llvm-bgq-discuss"><tt><font size=2>https://lists.alcf.anl.gov/mailman/listinfo/llvm-bgq-discuss</font></tt></a><tt><font size=2><br>
</font></tt>
<br>